En 1945, a los 16 años, participó como soldado en la Segunda Guerra Mundial. Tras la guerra trabajó en diversos puestos y aprendió el oficio de albañil.

A partir de 1956 estudió en el Deutsches Literaturinstitut Leipzig,^[2]​ y a partir de 1958 empezó a trabajar como periodista y más tarde como escritor independiente. Tuvo la oportunidad de viajar al extranjero, por ejemplo, a la Unión Soviética, y en 1967 y 1968 a Mali como miembro de una brigada de la Juventud Libre Alemana.

En 1977 protestó porque se le había retirado la nacionalidad a Wolf Biermann, lo que conllevó que fuera expulsado del Partido Socialista Unificado de Alemania, y que mermaran las posibilidades de publicar en la República Democrática Alemana (RDA). Debido a la publicación en 1979 de su novela Wilhelmsburg por una editorial de la República Federal de Alemania se le expulsó de la Deutscher Schriftstellerverband.^[3]​

En 1981 abandonó la RDA y se estableció en Velbert.^[4]​ Desde 1982 fue miembro del PEN Club Internacional de Alemania. En 1986 y 1987 fue profesor invitado en varias universidades de Estados Unidos y Canadá. Debido a los cambios políticos en la RDA en el año 1989, se canceló su expulsión de la Deutscher Schriftstellerverband. Trabajó para periódicos, radio y televisión y fue colaborador del diario Neues Deutschland.

Sus primeros relatos seguían la línea del camino de Bitterfeld, con temáticas socialistas. Su novela Beschreibung eines Sommers, que fue adaptada al cine, fue una de las más vendidas en la RDA. En 1972 recibió el premio Heinrich Mann^[5]​ de la Academia de las Artes de Berlín y en 1974 una Verdienstmedaille der DDR. En la década de 1970 empezó a volverse escéptico con la política de la RDA, lo que ocasionó que acabara abandonando el país. Falleció el 4 de noviembre de 2015.^[1]​

• Dora Teitelboim: Ballade von Little Rock (1961)

• Das große Lesebuch vom Frieden (1983)
• Die Sonntagsgeschichte oder Alles fängt doch erst an (1994)
• Festessen mit Sartre und andere Sonntagsgeschichten (1996, junto con J. Monika Walther)

• 1962 Beschreibung eines Sommers
• 1975 Eine Pyramide für mich

• Obras de Karl-Heinz Jakobs en la Deutsche Nationalbibliothek (en alemán)
• Karl-Heinz Jakobs en Internet Movie Database (en inglés).