Kohl sa zúčastnil neskorej fázy druhej svetovej vojny ako dospievajúci vojak. Vstúpil do Kresťansko-demokratickej únie (CDU) v roku 1947.
Kohl by opustil kresťansko-demokratickú úniu päť rokov po svojom vstupe v roku 1947.