Antes de estudiar canto con Aleksander Rahnel en Yaroslavl, donde se había establecido un centro cultural para los estonios evacuados, Ots era un joven oficial de la Marina que había escapado de un barco que se hundía luego de ser bombardeado por la Kriegsmarine en 1941. Ots fue rescatado y llevado a la región rusa de Kurgán. Seis meses después, audicionó para una plaza en el conservatorio de Tallin. Fue entonces cuando se unió al coro de la Ópera Nacional de Estonia en Tallin. Su debut como solista en la ópera fue en un pequeño papel en Eugenio Oneguin en 1944. Pronto se convirtió en uno de los cantantes más venerados de Estonia y Finlandia, y fue igualmente admirado en toda Rusia.

Ots actuó frecuentemente en el teatro Bolshói de Moscú. Su repertorio incluía los papeles de Eugene Onegin, Escamillo, Renato, Don Giovanni, Papageno, Rigoletto, Yago, Porgy, Fígaro, y en Colas Breugnon de Dmitri Kabalevski. Ots cantó en estonio, finlandés, francés, alemán, italiano y ruso. Uno de los papeles más famosos de Ots, con el que a menudo se le identifica, fue el protagonista de la ópera El demonio de Antón Rubinstein. El libreto de El demonio se basa en el famoso poema épico de Mijaíl Lérmontov, prohibido en su día debido a su trama, que gira en torno a la unión incompatible entre un ángel oscuro y una princesa georgiana. La interpretación de Ots del ángel cautivó al público y recibió excelentes críticas.

Ots también protagonizó Entre tres plagas, una película basada en la novela histórica homónima de Jaan Kross, que trata sobre la vida de Balthasar Russow.

Ots actuó en varios países europeos. Tras su muerte, la Escuela de Música de Tallin recibió su nombre, llamándose Georg Otsa nimeline Tallinna Muusikakool. En 1997, científicos rusos bautizaron con su nombre a un asteroide recién descubierto: (3738) Ots. Su primera esposa, Margot Laane, huyó de la Estonia ocupada por los nazis en 1942 y se estableció en Canadá. Ots se casó entonces con Asta Saar, relación que duró durante 20 años. En 1964, Ots se casó con Ilona Noor. Ots tuvo un hijo, Ülo (también músico); una hija, Ülle, con su segunda esposa, Asta; y otra hija, Mariann, con su tercera esposa, Ilona.

Ots falleció el 5 de septiembre de 1975 a la edad de 55 años, siendo celebrado un funeral de estado en su honor.

La biografía de Ots, escrita por Kulle Raig, se publicó por primera vez en finlandés en 2002 (Saarenmaan valssi: Georg Otsin elämänkerta) y en estonio en 2003. El libro se publicó en letón en 2009 y en ruso en 2015.