Nakon više od jedne decenije u opoziciji, Karamanlisova konzervativna stranka Nova demokratija (ND) došla je na vlast nakon parlamentarnih izbora u martu 2004, u kojima je osvojila glatku pobjedu nad Panhelenskim socijalističkim poketom (PASOK).
Karamanlis'in lideri olduğu muhafazakar Yeni Demokrasi (ND) partisi, muhalefette on yıldan uzun bir süre geçirdikten sonra Mart 2004'te yapılan parlamento seçimlerinde Panhelenik Sosyalist Hareket (PASOK) partisine karşı ezici bir zafer kazanarak iktidara geldi.