Sus padres eran judíos pobres, inmigrantes en los años 20 del siglo XX de Ucrania y de Letonia, respectivamente, y él tuvo que trabajar desde los doce años, sin dejar los estudios.^[2]​ En 1951 comenzó sus estudios de matemáticas en la Universidad de Chicago, pero en 1953 se trasladó a la Universidad de Illinois en Urbana-Champaign.^[3]​ Obtuvo el doctorado en 1959 con una tesis de análisis numérico y, a continuación, obtuvo una beca de la National Science Foundation para estar un curso en la Universidad de Cambridge.^[4]​

En 1965, después de diferentes trabajos breves en laboratorios de California y en el Instituto Courant,^[5]​ fue contratado por la Universidad de Stanford, en la que trabajó hasta su muerte en 2007.^[6]​

Soltero empedernido, a mediados de los 90, sorprendió a todo el mundo casándose con una antigua conocida londinense de Cambridge. Desgraciadamente, el matrimonio duró poco y ella volvió a Londres.^[7]​

Sus trabajos de investigación revolucionaron totalmente el campo de la teoría de la computación. Los más de 175 artículos científicos que publicó sobre álgebra lineal numérica, muestran una profundidad de pensamiento, una creatividad y una productividad que aportaron algoritmos computacionales importantes y nuevas aplicaciones de los métodos de matrices.^[8]​ Su libro Matrix Computations (1983), coescrito con Charles van Loan, se convirtió en un bestseller y el texto definitivo sobre la materia.^[9]​ Sus descubrimientos en los métodos de descomposición en valores singulares (DSV, según sus siglas en inglés)^[10]​ aún se utilizan en la actualidad. También hizo aportaciones importantes en los métodos iteractivos para resolver sistemas lineales,^[11]​ polinomios ortogonales, modelaje estadístico^[12]​ y problemas de valores propios.^[13]​

• Claude Brezinski; Gerard A. Meurant; Michela Redivo Zaglia (2023). A Journey through the History of Numerical Linear Algebra. SIAM. ISBN 978-1-6119-7722-6. 
• Chen Greif (2007). «Gene H. Golub Biography». Milestones in Matrix Computation. Oxford University Press. pp. 3-34. ISBN 978-0-19-920081-0 |isbn= incorrecto (ayuda). 
• Dianne P. O'Leary (2008). Gene Howard Golub, 1932–2007. Vol. 428. Linear Algebra and its Applications. pp. 2405-2409. ISSN 0024-3795. doi:10.1016/j.laa.2008.01.014. 
• Dianne P. O'Leary (2018). Gene H. Golub. Biographical Memoirs - National Academy of Sciences. pp. 1-23. ISSN 0077-2933. 
• Lloyd N. Trefethen (2007). Gene H. Golub (1932–2007). Vol. 450. Nature. p. 962. ISSN 0028-0836. 
• Kees Vuik (2008). Gene Golub Around the World Day. Vol. 9. Nieuw Archief voor Wiskunde. p. 99. ISSN 0028-9825. 

•   Wikimedia Commons alberga una categoría multimedia sobre Gene Golub.
• Esta obra contiene una traducción derivada de «Gene Golub» de Wikipedia en inglés, publicada por sus editores bajo la Licencia de documentación libre de GNU y la Licencia Creative Commons Atribución-CompartirIgual 4.0 Internacional.