Andreas Roland Grüntzig è nato poco prima della seconda guerra mondiale, il 25 giugno 1939 a Dresda, in Germania. Il padre, il dottor Wilmar Gruentzig (1902-1945), è stato un insegnante di scienze nel liceo, con un dottorato di ricerca in chimica. Wilmar ha fatto parte del servizio meteorologico della Luftwaffe durante la seconda guerra mondiale e probabilmente è morto durante la guerra. Sua madre era Charlotta (Zeugner) Gruentzig (1907-1955), era un insegnante. Il fratello maggiore era Johannes Gruentzig: dopo la sua nascita a Dresda, nel 1940 la famiglia si trasferì nella casa di un parente nella piccola città di Rochlitz nella Sassonia centrale. Dopo la guerra, Charlotta e i suoi figli si trasferirono a Lipsia insieme a sua sorella Alfreda Beier e sua madre. Nel 1950, Charlotta si trasferì con la sua a Buenos Aires, in Argentina, per vivere con il fratello e la moglie di suo marito. Nell'arco di due anni Charlotta e i suoi due figli si ritrasferirono a Lipsia. Grüntzig e suo fratello Johannes frequentarono la scuola superiore presso il "Thomasschule zu Leipzig". Grüntzig si è laureato alla Thomasschule nel 1957 con il massimo dei voti. Nel 1956, suo fratello Johannes si trasferì ad Hannover, Andreas lo seguì un anno dopo.