Hij was leerling van Jarnach en Lehmacber aan de Musik-hochscbule in Keulen en van Fortner en Leibowirz (Darmstädter Ferienkurse). Hij was lector voor muziektheorie aan de Keulse unisersiteit (1950-1952). In 1918 werd bij compositieleraar (in 1961 professor) aan de Musikhochschule te Keulen. Zijn eerste werken staan sterk onder invloed van Hindemith en gedeeltelijk van het expressionisme. Sinds 1953 (Kontraste voor twee piano’s) paste bij onder invloed van Boulez en Stockhausen – seriële compositietechnieken toe, die bij echter veel vrijer en met duidelijk dramatischer intenties toepaste dan de overige componisten van de seriële Keulse School. Zijn tussen 1960 en 1964 geschreven opera Die Soldaten (op tekst van J.M.R. Lenznaar het toneelsruk van Jakob Michael Reinhold, een dichter uit de ‘Sturm und Drang periode’ ) sterk beïnvloed door Alban Bergs Wozzeck, kan als zijn belangrijkste compositie beschouwd worden en vormt een synthese tussen de door hem ontwikkelde seriële technieken en zijn behoefte aan dramatische realistische expressie. Het werk - in opdracht van de Keulse Opera geschreven - was echter dermate moeilijk speelbaar dat een eerste uitvoering pas tot stand kwam jaren nadat de Keulse radio enkele scénes in concertvorm had gerealiseerd. Kort voor zijn (vrjjwillig gekozen) dood componeerde Zimmermann een Requiem (1969) voor groot orkest, koor en geluidsbanden waarop teksten o m. van schrijvers uit de Russische revolutie zijn opgenomen.

Werken: (behalve de gemoemde) Orkest: strijkconcerten (1948); Vioolconcert (1950); Braziliaans Ouvertrue (1951) Symphonie in einem Satz (1952); Hoboconcert (1952); 2 celloconcerten (1953, 1966); Canto di speranza (1958; voor cello en orkest) Dialoge für 2 Klaviere und grosse Orchester (1959/1960); 5 Frescobaldicapricci (1962); Photopsis (1968); Stille und Umkehr (1970). Kamermuziek; sonate voor cellosolo (1960); Présence Ballet blanc en cinq scènes pour viollon, violoncelle et piano (1961); Antiphonen (1962); Musique pour les soupers du RoiUbi. Ballet noir (1966) – Vocaal; Omnia tempus habent (1957, cantate); Ich wandte mich um und sah alles Unrecht (1970, cantate); liederen – voorts; film- en toneel muziek,

Edith Kertész-Gabry als Marie in’Die Soldaten’ waarin deels op het simultaantoneel het lot van de burgerdochter Marie Wesner verteld wordt, die door gewetenloze soldaren bedrogen en verkracht wordt en als bedelares in de goot eindigt, Dit sruk ‘totaal theater’ heeft lange tijd de reputatie gehad onuitvoerbaar te zijn. De Keulse première van 1x65 was tenslotte te danken aan de dirigent Michael Green