Baum nació el 21 de enero de 1883 en Pilsen,^[1]​ hijo de un comerciante judío de telas. Padeció problemas de visión desde su nacimiento. A los ocho años perdió la vista de un ojo y a los once, durante una pelea, la perdió por completo. Como ya no podía asistir a la escuela, su profesor lo envió a Viena, al Instituto Israelita para Ciegos, una escuela secundaria. Allí se formó como asesor musical y aprendió a tocar el órgano y el piano. En 1902, abandonó sus estudios de magisterio y regresó a Praga. Baum se ganaba la vida como organista y cantor en una sinagoga; posteriormente, se convirtió en profesor de piano.

En 1904 conoció a Max Brod, Ludwig Winder, Franz Kafka y Felix Weltsch. Los cuatro se hicieron muy amigos de Baum, y tras el matrimonio de este con Margarete Schnabel, el apartamento de la pareja se convirtió en el lugar de reunión del Círculo de Praga. Allí, los amigos se dedicaban a leer sus respectivos textos literarios, pero también les entusiasmaba explorar textos extranjeros y música de cámara. Durante esta época, comenzó una intensa correspondencia entre Kafka y Baum.

Baum falleció el 20 de marzo de 1941 en Praga a consecuencia de una operación intestinal.^[2]​^[3]​ Poco después de su muerte, su esposa Margarete fue deportada al gueto de Theresienstadt, donde falleció un año después.^[3]​ Su único hijo, Leo (nacido en 1909), murió el 22 de julio de 1946 en el atentado del Irgún contra el Hotel Rey David en Jerusalén. ^[3]​

• Archiv Bibliographia Judaica, ed. (1992). «Baum, Oskar». Lexikon deutsch-jüdischer Autoren (en alemán). I (A - Benc). Berlin: K. G. Saur. pp. 398-404. ISBN 3-598-22680-2. OCLC 979630446. doi:10.1515/9783110975864. 
• Glosíková, Viera; Nagelschmidt, eds. (2020). Mit der Schrift sehen - der Prager deutsche Autor Oskar Baum (en alemán). Berlin: Frank & Timme. ISBN 978-3-7329-0717-5.