Herzfeld nació en Celle (Alemania). Estudió arquitectura en Múnich y en Berlín, y, a la vez, cursó estudios de asiriología, de Historia Antigua e Historia del arte.

Ayudó a Walter Andrae, entre 1903 y 1905, en las excavaciones de Assur, después viajó mucho a Irak e Irán al principio del siglo XX. Excavó y documentó numerosos sitios histórico de Turquía, Siria, Irán, y sobre todo de Irak (en Bagdad y Ctesifonte por ejemplo). Dirigió las primeras excavaciones en Samarra de un sitio del periodo islámico en 1911-1913. Después de su servicio militar en la Primera Guerra Mundial, fue nombrado profesor para el curso «Landes- und Altertumskunde des Orients» en Berlín en 1920. Fue el primer curso sobre el Próximo y Medio Oriente en el mundo de la arqueología. En 1923-1925, comenzó a dirigir exploraciones en Irán y describió, por primera vez, las ruinas más importantes del país. Se mudó en 1925 a Teherán y se quedoó allí la mayoría del tiempo hasta 1934. Ayudó a crear una ley iraní sobre las antigüedades y excavó las capitales aqueménidas de Pasargadas y Persépolis.

Dejó Irán en 1935 para ir a pasar un año a Londres, pero no regresó. En 1935, fue obligado a dejar su puesto en Alemania y se convirtió en miembro del Institute for Advanced Study entre 1936 y 1944. Murió en Basilea, en Suiza, en 1948.

• Iranische Felsreliefs, 1910
• Archäologische Reise im Euphrat- und Tigris-Gebiet, 4 Vols., 1911-1920 (en collaboration avec Friedrich Sarre)
• Paikuli, 2 Vols., 1924
• Die Ausgrabungen von Samarra, 5 Vols., 1923-1930
• Archaeological history of Iran, 1934
• Altpersische Inschriften, 1938
• Iran in the ancient East, 1940
• Zoroaster and his world, 2 Vols., 1947

• Encyclopaedia Iranica
• Gunter, Ann C. / Stefan R. Hauser (eds.), Ernst Herzfeld and the Development of Near Eastern Studies, 1900-1950. Leiden: Brill 2005.

• Pierre Briant. Etapas del desarrollo de la historiografía aqueménida en la época de Ernst Herzfeld (1879-1948). (en francés)
• Inventario de los Archivos Ernst Herzfeld Freer Gallery of Art and Arthur M. Sackler Gallery Archives, Smithsonian Institution, Washington, D.C.
• Ernst Herzfeld Papers (enlace roto disponible en Internet Archive; véase el historial, la primera versión y la última). Collections Search Center, S.I.R.I.S., Smithsonian Institution, Washington, D.C.