Il Rummo, però, serbava il desiderio di trasferirsi presso l'Università di Firenze, ma non era gradito nell'ambiente fiorentino. Si dimise allora, dalla cattedra di professore ordinario per partecipare ufficialmente al concorso indetto dalla facoltà di Firenze. Ma dopo aver vinto il concorso, rifiutò e nel 1895 si trasferì all'Università di Palermo per accettare l'incarico alla cattedra di clinica medica.