Franz fue hijo del terrateniente Carl Franz y su esposa Josefine Holschek. En 1935, se casó y tuvo cuatro hijos.

Franz asistió a la escuela secundaria en Mödling, cerca de Viena, donde se graduó con honores en 1926. Posteriormente, se matriculó simultáneamente en la Universidad de Viena (ciencias naturales) y en la Universidad de Recursos Naturales y Ciencias de la Vida de Viena (agricultura). En mayo de 1930, Herbert Franz se doctoró con honores en zoología y geología por la Universidad de Viena.

Herbert Franz residió seis años en la finca de su padre, al norte de Burgenland, donde finalmente ejerció como administrador independiente. En 1936, se incorporó a "Neues Lebens", una fundación del Frente Patriótico, como asesor de cultura popular rural. También trabajó como interno en el Museo de Historia Natural de Viena.^[4]​ En 1939, se incorporó a la Hacienda de Alimentos del Reich como jefe de la rama agrícola. En 1940, fue nombrado asistente principal del Instituto de Investigación del Reich para la Agricultura Alpina en Admont (Estiria).^[5]​ Allí, dirigió el Centro de Investigación de Suelos y Terrenos donde asumió la dirección del instituto durante tres años. A finales de 1944, fue reclutado temporalmente en la Volkssturm y vivió el fin de la guerra en el frente, en la frontera húngara. Ese mismo año, completó sus estudios en zoología en la Universidad de Graz, donde fue nombrado profesor asociado en 1950. En 1951, Herbert Franz se trasladó a Viena y aceptó inicialmente una invitación del Consejo Superior de Investigaciones Científicas para establecer un Instituto de Zoología del Suelo en Madrid. En 1952, fue nombrado director del Departamento de Geología y Edafología de la Universidad de Recursos Naturales y Ciencias de la Vida y luego vicerrector y rector de dicha universidad, de donde se jubiló en 1975.^[6]​