Nel 1902 il governatore generale dell'Indocina Paul Doumer inaugurò l'ospedale di Hanoi. A partire da quell'anno la direzione generale dell'ospedale fu affidata a Yersin. Egli si occupò del reclutamento del personale, dell'organizzazione dei programmi su modello francese, e tenne le lezioni dei corsi di fisica, chimica ed anatomia. Nel 1904 diede le dimissioni e l'anno dopo partì per la Francia. L'ospedale di Hanoi prenderà il suo nome nel 1943, l'anno della sua morte.