En 2006, mientras Nagelsmann jugaba en el filial del Augsburgo y Thomas Tuchel era su entrenador, éste le ofreció un puesto como ojeador, así fueron sus primeros pasos.^[4]​ Nagelsmann comenzó su carrera como entrenador en 2008, trabajando con el entrenador Tuchel en el F. C. Augsburgo II.^[5]​ En los años siguientes, entrenó en las categorías inferiores (equipos sub-16 y sub-19) del TSG 1899 Hoffenheim, hasta llegar al filial, el TSG 1899 Hoffenheim II, al que hizo campeón nacional de su categoría en 2014; y también a ser asistente del primer equipo en la temporada 2012-13.

El 28 de octubre de 2015, fue anunciado como nuevo entrenador del primer equipo del TSG 1899 Hoffenheim para la próxima temporada, relevando a Huub Stevens a partir de julio de 2016.^[6]​ Sin embargo, cuando este último dimitió por problemas cardíacos el 11 de febrero de 2016, su "ascenso" se aceleró, ya que tuvo que hacerse cargo del equipo de Sinsheim al día siguiente, firmando un contrato hasta 2019. Se convertía así en el entrenador más joven de la historia de la Bundesliga, con solo 28 años.^[7]​ Logró obtener la permanencia en la última jornada, tras sumar 23 puntos en 14 partidos, recortando una diferencia de 7 puntos con el primer puesto de la salvación.^[8]​ En la Bundesliga 2016-17, el Hoffenheim completó un fantástico inicio, situándose en la tercera posición de la tabla y manteniéndose invicto durante 17 jornadas.^[9]​ Consiguió acabar la temporada en la cuarta plaza de la Bundesliga, que daba acceso a la fase previa de la Liga de Campeones.^[10]​ Tras esta sensacional actuación del equipo, el técnico renovó su contrato con el club.^[11]​

En la temporada 2017-18, el Hoffenheim no pudo acceder a la fase de grupos de la Liga de Campeones, ya que fue eliminado por el Liverpool en la ronda previa.^[12]​ Inicialmente tampoco pudo mantener su gran rendimiento en la Bundesliga 2017-18, finalizando la primera vuelta del campeonato como 7º clasificado,^[13]​ pero 4 victorias en las 5 últimas jornadas le permitieron finalizar en 3.er puesto, lo que le garantizaba el acceso a la fase de grupos de la siguiente edición de la Liga de Campeones.^[14]​ Terminó su etapa en el club llevando al equipo al 9º puesto en la Bundesliga 2018-19.

El 21 de junio de 2018, firmó un contrato de 4 años como nuevo entrenador del RB Leipzig a partir de junio de 2019.^[15]​ En su primera temporada en su nuevo banquillo, el equipo alemán terminó en 3ª posición en la Bundesliga, clasificándose para la Liga de Campeones.^[16]​

En agosto de 2020, llevó al conjunto sajón a disputar las semifinales de la Liga de Campeones tras vencer 0-1 y 3-0 al Tottenham Hotspur en octavos y 2-1 al Atlético de Madrid en cuartos, pero perdió 3-0 ante el PSG.^[17]​

En octubre de 2020 perdió 5-0 contra el Manchester United en la Liga de Campeones, siendo esa la peor derrota de la historia del club. No obstante, el 8 de diciembre del mismo año, venció en la última jornada de la fase de grupos al mismo Manchester United y clasificó al Leipzig, por segunda vez en su historia, para los octavos de final, nuevamente terminando dentro de los mejores 16 equipos de Europa.

En la Bundesliga, arrancó las primeras fechas en los primeros puestos. En la fecha 10, se enfrentó al entonces campeón de la Bundesliga, la Copa de Alemania y la Champions League, el Bayern de Múnich, y el resultado terminó en un muy parejo 3-3. Algunos fanáticos alemanes consideran este duelo como "el nuevo clásico alemán", debido a la similitud en nivel futbolístico que han representado ambos clubes en Alemania, sobre todo en los últimos años futbolísticos.^[18]​ Finalmente, su equipo obtuvo el subcampeonato de la Bundesliga.^[19]​

El 27 de abril de 2021, el Bayern de Múnich anunció que había llegado a un acuerdo con Julian Nagelsmann, que firmó un contrato por 5 años y asumirá el cargo de entrenador del equipo bávaro a partir del 1 de julio de 2021. El club bávaro indemnizó al RB Leipzig una suma de 25 millones de euros, convirtiendo a Nagelsmann en el entrenador más caro de la historia del fútbol.^[20]​

Nagelsmann ganó su primer título a nivel absoluto con el Bayern de Múnich el 17 de agosto de 2021, después de vencer al Borussia Dortmund por un marcador de 3-1 en la Supercopa de Alemania de ese mismo año.^[21]​

El 25 de agosto de 2021, venció 12-0 a Bremer SV por la Copa de Alemania. El 14 de septiembre, debutó en la Liga de Campeones de la UEFA con el conjunto bávaro, venciendo por un marcador de 0-3 al FC Barcelona. En rueda de prensa, Nagelsmann declaró que "pudieron jugar mejor", lo que resalta la mentalidad ganadora del técnico alemán. Bajo su dirección, el Bayern de Múnich llegó a los cuartos de final de la Liga de Campeones, donde fue eliminado por el Villarreal.^[22]​

El 23 de abril del 2022 ganaría su primera Bundesliga, después de vencer nuevamente al Borussia Dortmund por un marcador de 3-1. Con esta victoria, el Bayern Múnich se convertiría en el primer y único equipo de toda la historia del futbol europeo en ganar diez ligas locales de manera consecutiva.^[23]​

Sin embargo, el 24 de marzo de 2023, el club bávaro anunció la destitución de Nagelsmann a pesar de los buenos resultados que estaba consiguiendo en su segunda temporada en el banquillo del Allianz Arena, ya que el equipo alemán era 2º en la Bundesliga, a un solo punto del líder, y estaba clasificado para cuartos de final de la Copa de Alemania y de la Liga de Campeones (con 8 victorias en 8 partidos). Thomas Tuchel fue su sustituto.^[24]​

El 22 de septiembre de 2023, Nagelsmann fue nombrado nuevo entrenador de Alemania, firmando un contrato hasta el final de la Eurocopa 2024, aunque finalmente fue ampliado hasta el 2026.^[25]​

• «Julian Nagelsmann». Transfermarkt. 
• Brand, Gerard (11 de febrero de 2016). «Julian Nagelsmann: We profile Hoffenheim's new 28-year-old manager». Sky Sports (en inglés). 
• Romero, Juanma (12 de abril de 2016). «Alemania alucina con la 'revolución Nagelsmann'». Sport. Consultado el 12 de abril de 2016. 
• Danjon, Alexis (24 de noviembre de 2016). «Qui est Julian Nagelsmann, le baby coach de Hoffenheim ?». L'Équipe (en francés).