Un intento fallido de fundar un club de fútbol en la ciudad en 1903 fue seguido dos años más tarde por la exitosa creación del 1. Mainzer Fussballclub Hassia 1905. Tras varios años de juego en la Süddeutschen Fußballverband (Liga de Fútbol del Sur de Alemania), el club se fusionó con el FC Hermannia 07 -el antiguo equipo de fútbol de Mainzer TV 1817- para formar el 1. Mainzer Fussballverein Hassia 05, que dejó de llamarse "Hassia" en agosto de 1912. Tras la Primera Guerra Mundial, en 1919, se produjo otra fusión con el Sportverein 1908 de Maguncia, que dio lugar a la formación del 1. Mainzer Fußball- und Sportverein 05. Die Nullfünfer ("05") fue un club sólido que ganó varios campeonatos de la liga regional en el periodo de entreguerras y se clasificó para la ronda inicial de los campeonatos nacionales en 1921, tras ganar la Kreisliga Hessen.

A finales de la década de 1920 y principios de la de 1930, el club obtuvo buenos resultados en la Bezirksliga Main-Hessen - Gruppe Hessen, incluyendo el primer puesto en 1932 y 1933. Esto le valió al equipo una plaza en la Gauliga Südwest, una de las 16 nuevas ligas de primera división que se formaron en la reorganización del fútbol alemán bajo el Tercer Reich. El club sólo jugó una temporada en ese nivel antes de descender, debido al juego de alta intensidad que no pudo mantener. Karl Scherm marcó en 23 de los 44 partidos que disputó con el Mainz durante su última temporada. En 1938, el Mainz se vio obligado a fusionarse con el Reichsbahn SV Mainz y jugó como Reichsbahn SV Mainz 05 hasta el final de la Segunda Guerra Mundial.

Después de la Segunda Guerra Mundial, el club volvió a formar parte de las ligas superiores en la Oberliga Südwest de Alemania, pero nunca superó la mitad de la tabla. Jugó en la máxima categoría hasta la fundación de la nueva liga profesional, la Bundesliga, en 1963, y pasó a jugar como equipo de segunda división durante la mayor parte de las cuatro décadas siguientes. Se retiró durante un tiempo -desde finales de los años 70 hasta finales de los 80- a la Oberliga Südwest (III), como consecuencia de una serie de problemas financieros. El Mainz se proclamó campeón de Alemania amateur en 1982.

El club regresó al fútbol profesional con el ascenso a la 2. Bundesliga por una sola temporada en 1988-89 con Bodo Hertlein como presidente, antes de regresar finalmente para una carrera prolongada en 1990-91. Al principio, el equipo era un eterno candidato al descenso, y luchaba cada temporada por evitarlo. Sin embargo, bajo la dirección del poco ortodoxo entrenador Wolfgang Frank, el Mainz se convirtió en uno de los primeros clubes del fútbol alemán en adoptar una defensa plana de cuatro zonas, en contraposición a la entonces popular defensa hombre a hombre que utilizaba un líbero.

El Mainz fracasó en sus tres intentos de llegar a la máxima categoría en 1996-97, 2001-02 y 2002-03, con un cuarto puesto muy cercano a la zona de ascenso. El último intento fallido fue un duro golpe, ya que se les negó el ascenso en el minuto 93 del último partido de la temporada. Un año antes, el Mainz se convirtió en el mejor equipo no ascendido de todos los tiempos en la 2. Bundesliga, con 64 puntos acumulados. Sin embargo, la perseverancia del club dio sus frutos tras el ascenso a la Bundesliga en 2003-04 bajo la dirección de Jürgen Klopp. El club jugó tres temporadas en la máxima categoría, pero descendió al final de la temporada 2006-07.^[10]​ El Mainz volvió a ascender a la máxima categoría sólo dos años después, tras la temporada 2008-09.

El Mainz también consiguió una plaza a la Copa de la UEFA 2005-06 en su temporada de debut en la Bundesliga como candidato de Alemania en el sorteo del Ranking de Fair Play de la UEFA, que reconoce el juego positivo, el respeto al rival, el respeto al árbitro, el comportamiento del público y de los oficiales de los equipos, así como las amonestaciones y las expulsiones. Debido a la capacidad limitada del estadio Bruchweg, los partidos en casa de la Copa de la UEFA se jugaron en el Deutsche Bank Park de Fráncfort. Tras derrotar al FC Mika Ereván armenio y al Keflavík ÍF islandés en las rondas de clasificación, el Mainz perdió ante el Sevilla Fútbol Club, a la postre campeón, por un global de 2-0 en la primera ronda.

En la temporada 2010-11, el Mainz igualó el récord de inicio de la Bundesliga al ganar sus siete primeros partidos de esa temporada. Terminó la temporada con su mejor resultado hasta la fecha, con un quinto puesto, lo que le valió su segunda participación en la Copa de la UEFA, donde fue eliminado en la tercera ronda de clasificación por el club rumano Gaz Metan Mediaș.

Los rivales tradicionales del Mainz 05 son el Eintracht Fráncfort y el 1. FC Kaiserslautern. Los encuentros con el Eintracht de Fráncfort suelen denominarse como "derbi del Rin-Meno".^[11]​ Los partidos contra el 1. FC Kaiserslautern se consideran el "derbi de Renania-Palatinado" y son los derbis con mayor prioridad para parte de la afición del Mainz. Este derbi se trata del "número uno de Renania-Palatinado".

• Uniforme titular: Camiseta roja, pantalón blanco y medias rojas.
• Uniforme alternativo: Camiseta blanca, pantalón rojo y medias blancas.
• Tercer uniforme: Camiseta verde, pantalón verde y medias verdes.

• Campeonato Alemán Amateur: 2

1982, 1983

• Kreisliga Hessen: 1

1921

• Bezirksliga Rheinhessen-Saar: 1

1927

• Bezirksliga Main-Hessen (Grupo Hessen): 2

1932, 1933

• Regionalliga Südwest : 1

1973

• Oberliga Südwest: 3

1981, 1988, 1990

• Amateurliga Südwest: 1

1978

• South West Cup: 3

1980, 1982, 1986

• Trofeoo Memorial Quinocho (1): 2018.

•   Wikimedia Commons alberga una categoría multimedia sobre 1. F.S.V. Mainz 05.
• Sitio web oficial (en alemán)
• Maguncia 05 en UEFA