Il Gemelli fu al centro dell'attenzione internazionale durante il pontificato di papa Giovanni Paolo II quando, nel 1981, fu operato d'emergenza a seguito del attentato perpetrato da Mehmet Ali Ağca. Nel corso degli anni è stato ricoverato più volte, fino a pochi giorni prima della sua morte nel 2005. Per questa ragione soprannominò l'appartamento al decimo piano dove veniva ricoverato, il "Vaticano Terzo" (il secondo corrisponde alla residenza estiva di Castel Gandolfo). Altri famosi ex-pazienti sono stati i politici Giulio Andreotti, Walter Veltroni e Francesco Cossiga, il Premio Nobel per la pace Madre Teresa di Calcutta, il fisico teorico Stephen Hawking, il sacerdote Georg Ratzinger (fratello maggiore di papa Benedetto XVI) e numerosi altri personaggi noti a livello nazionale. Nel Giugno del 2009 è stata svelata una statua di Papa Giovanni Paolo II davanti all'ingresso principale dell'ospedale.