Naast Luther de grootste dichter van geestelijke liederen in de Luthersche kerk. Hij werd geboren te Grafenhainichen .in de provincie Saksen op 12 Maart 1607.
In 1643 werd hij hofmeester bij den advocaat Andreas Berthold in Berlijn. Hier vervaardigde hij reeds vele liederen.
Zijn eerste Latijnsche gedicht maakte hij in 1642 in Wittenberg bij de promotie van een zijner vrienden; het eerste Duitsche gedicht was een bruiloftslied (Der aller Herz und Willen lenkt), hetwelk in den herfst van 1643 door hem vervaardigd werd in het huis van de Bertholds, waaruit ook Gerhardts vrouw afkomstig was. Gedurende den 30-jarigen oorlog kwam hij in de parochie Mittenwalde-Berlin (1651).
Toen huwde hij met Marie Berthold, die hem vijf kinderen schonk, van welke vier spoedig stierven. In 1657 kwam hij als diacoon aan de Nicolai-kerk en werkte daar met zegen.
In 1662 werd door den keurvorst het bestrijden der Gereformeerden op den kansel, waarbij men zelfs namen noemde, verboden. Op die manier had Gerhardt nooit gepreekt.
Hij behoefde zich daarover niet te bekommeren, maar hij vond het toch geheel onjuist, dat men de prediking aan banden legde. Daarom werd hij afgezet (1666).
Zijn gemeente bleef hem ondersteunen, totdat hij in 1668 naar Lubben geroepen werd. Daar arbeidde hij tot zijn dood 7 Juni 1676.Gerhardt was een onverdacht Luthersch-orthodox man. Dat komt in al zijn liederen uit. Hij heeft voor de Lutherschen den rechten toon weten te treffen, want zijn liederen hebben al jaren een grooten invloed uitgeoefend. Er bestaan ongeveer 120 kerkliederen van hem. Zeer bekend en geliefd zijn o.a. Befiehl du deine Wege en lch danke dir mit Freuden.
Ze werden voor den zang gereed gemaakt door J. Crüger en J. G. Ebeling.