Grüntzig studiò alla "Bunsen Gymnasium" mentre suo fratello si iscrisse in medicina all'università di Heidelberg. Grüntzig iniziò i suoi studi medici all'Università di Heidelberg nell'autunno del 1958 e successivamente si laureò l'8 aprile 1964. Si interesso di medicina interna e di chirurgia vascolare. Nel 1966 tornò all'Università di Heidelberg per assumere un impiego presso l'Istituto di Medicina Sociale e Occupazionale dell'Università, che studiava i fattori di rischio cardiovascolare, la bronchite cronica e la degenerazione epatica. Nel 1967, con una borsa di studio si recò a Londra per studiare l'epidemiologia presso l'Università di "Londra School of Hygiene". Nel 1968 ritornò a Heidelberg. All'inizio del 1968 lavorò come medico per sei mesi a Darmstadt, presso la clinica" Max Ratschow".