Heitinga formó parte de la cantera del Ajax antes de debutar con el primer equipo el 26 de agosto de 2001 contra el Feyenoord. Formó parte de una nueva generación de talentos que incluía a figuras de la cantera como Rafael van der Vaart y Wesley Sneijder, además de Zlatan Ibrahimović y Cristian Chivu.^[1]​

Se consolidó rápidamente como una gran incorporación al equipo y se convirtió en titular bajo las órdenes del entrenador Co Adriaanse y, posteriormente, de Ronald Koeman, hasta que sufrió una grave lesión de rodilla que lo mantuvo de baja durante más de seis meses. Su regreso fue efímero, ya que solo jugó un partido antes de sufrir otra lesión que lo condenó a un largo periodo de recuperación. Hizo su segundo regreso al inicio de la temporada 2003-04 e impresionó en su primer partido tras su lesión contra el Volendam, donde se convirtió en defensa central titular durante el resto de la temporada, además de ser una figura popular entre la afición.^[2]​

El 25 de marzo de 2008, se anunció su transferencia al Atlético de Madrid por €10 millones.^[3]​ En su primera temporada en España terminó disputando 32 partidos (27 en La Liga) y marcando tres goles para el club colchonero.^[4]​

En septiembre de 2009, a los 25 años, se unió al Everton con un contrato de cinco años por una tarifa de alrededor de €7,04 millones.^[5]​ Al final de la temporada 2011-12, la afición lo eligió jugador del año. Sin embargo, durante la campaña 2012-13, Heitinga no entró en los planes del club por decisión del entrenador David Moyes.^[6]​ En enero de 2014, el Everton y el West Ham United acordaron su traspaso. Sin embargo, rechazó la oferta, afirmando: «Tienes que estar convencido de que estás dando el paso correcto, y yo no lo estaba».^[7]​

El 31 de enero de 2014, fichó por el Fulham hasta el final de la temporada en régimen de transferencia gratuita.^[8]​ Marcó su primer gol oficial el 1 de marzo en un encuentro por la Premier League contra el Chelsea.^[9]​ El 23 de mayo de 2014, el club anunció que no renovaría su contrato, que estaba a punto de expirar.^[10]​

El 4 de junio de 2014, se anunció su llegada al Hertha Berlín y firmó un contrato de dos años, con opción a un año más.^[11]​ No obstante, durante su etapa en el club alemán, debió conformarse con un lugar en el banquillo o en la grada.

El 25 de junio de 2015, el Ajax anunció su regreso al club, uniéndose en una transferencia libre.^[12]​ Sin embargo, después de jugar sólo dos partidos de la Eredivisie en la primera mitad de la temporada, decidió retirarse del fútbol profesional el 1 de febrero de 2016.^[13]​

En la selección neerlandesa debutó el 18 de febrero de 2004, ante el combinado de Estados Unidos. Varios meses después, anotó su primer gol internacional ante Grecia tras un tirlo libre de Rafael van der Vaart. Aunque no participó en las eliminatorias, fue incluido en la nómina para afrontar la Eurocopa 2004 en Portugal. Arrancó en los dos primeros partidos como lateral derecho pero fue expulsado en el tercero tras recibir dos amarillas. Tras cumplir la suspensión, regresó en cuartos de final ante Suecia tras sustituir a Edgar Davids y convirtió un penal en la tanda que finalizó 5-4 a favor de los holandeses. Desafortunadamente, Portugal eliminó a los naranjas en semifinales.^[14]​

Heitinga pese a algunos problemas físicos que sufrió, no perdió su lugar en la selección nacional incluso cuando Marco van Basten asumió el cargo de entrenador en 2004. A finales de 2005, Heitinga volvió a ser un jugador clave en la escuadra del Ajax. Fue seleccionado por Van Basten en la nómina final de 23 jugadores para competir en la Copa Mundial de Fútbol de 2006, organizada por Alemania.^[15]​ El cuadro holandés lo hizo bien y clasificó a la siguiente ronda, pero fue eliminado por Portugal. También fue convocado a la Eurocopa 2008 de Austria y Suiza.

Fue elegido como uno de los 23 futbolistas que representaron a su selección en el Mundial de Sudáfrica 2010. En esta competición fue titular en los 7 partidos que el combinado neerlandés disputó. En la final fue expulsado por doble amonestación en la segunda parte de la prórroga ante España. Tras su expulsión, Andrés Iniesta marcó para España en el minuto 116.^[2]​

En junio de 2021, Heitinga fue nombrado entrenador del Jong Ajax, el equipo de reserva del Ajax que compite en la Eerste Divisie.^[17]​ El 27 de enero de 2023, fue nombrado técnico interino del primer equipo del Ajax para el resto de la temporada, tras la destitución de Alfred Schreuder.^[18]​ Bajo su cargo, el equipo terminó tercero en la Eredivisie, asegurándose un puesto en la ronda de play-off de la UEFA Europa League y también llegó a la final de la Copa KNVB, donde perdió contra el PSV en los penaltis.^[19]​

En septiembre de 2023, asumió como asistente técnico de David Moyes en el West Ham United.^[20]​ Tras la marcha de Moyes en mayo de 2024, dejó también el club junto con otros entrenadores y personal técnico.^[21]​ El 17 de julio de 2024, fue nombrado nuevo asistente de Arne Slot en el Liverpool.^[22]​ En mayo de 2025, abandonó su puesto en el equipo inglés.^[23]​

El 31 de mayo de 2025, fue contratado como entrenador del Ajax y firmó un contrato por dos temporadas.^[24]​

•   Wikimedia Commons alberga una categoría multimedia sobre John Heitinga.
• Sitio web oficial Archivado el 13 de junio de 2006 en Wayback Machine.
• Perfil en el sitio web de la FIFA Archivado el 1 de febrero de 2014 en Wayback Machine.
• Perfil en el sitio web del AFC Ajax