Nakon više od desetljeća u opoziciji, Karamanlisova konzervativna stranka Nova demokracija (ND) došla je na vlast nakon parlamentarnih izbora u ožujku 2004, odnijevši uvjerljivu pobjedu nad Panhelenskim socijalističkim pokretom (PASOK).
Karamanlis'in lideri olduğu muhafazakar Yeni Demokrasi (ND) partisi, muhalefette on yıldan uzun bir süre geçirdikten sonra Mart 2004'te yapılan parlamento seçimlerinde Panhelenik Sosyalist Hareket (PASOK) partisine karşı ezici bir zafer kazanarak iktidara geldi.