Nel 1889 diventò dunque il primo capo dello "staff" al Johns Hopkins Hospital, e nel 1893 uno dei primi professori di medicina alla Johns Hopkins University a Baltimora. Era questa, al tempo in cui Osler vi giunse, una realtà tutt'altro che facile: i 7.000.000 di dollari che il benefattore Johns Hopkins aveva lasciato per la fondazione della nuova struttura erano finiti, e la collaborazione che si doveva instaurare fin dall'inizio fra l'università e il vicino ospedale stentava, a causa delle difficoltà trovate dal primo presidente a intessere relazioni fruttuose colla gente di Baltimora, di carattere non facile ed eccessivamente tradizionalista. Ebbene, con lo slancio e la capacità di coinvolgimento che lo caratterizzavano, Osler in poco tempo riuscì a guadagnarsi la stima e la fiducia di tutti. A capo della nuova università si venne a creare dunque un gruppo di giovani ed eccellenti medici, i cosiddetti "Big Four", di cui Osler era "leader" indiscusso (oltre che il componente più anziano, con i suoi 40 anni): William Henry Welch alla cattedra di patologia, William Stewart Halsted, a chirurgia, Howard Atwood Kelly a ginecologia e, naturalmente, William Osler a medicina interna. Anche qui Osler non perse tempo: la biblioteca dell'Università del Maryland era in decadimento e Osler – grande bibliofilo e appassionato di letteratura e di storia della medicina – negli anni che trascorse lì la incrementò costantemente fino a farla contenere circa 15.000 volumi, dalle poche centinaia iniziali; creò un nuovo Journal Club, il "Johns Hopkins Hospital Bullettin"; fondò una società per lo studio della tubercolosi, chiamata The Laennec dal nome dell'inventore dello stetoscopio, René Laennec. Nel frattempo continuava l'ampliamento della Johns Hopkins, e alla fine del 1889 venne inaugurata la scuola di infermieristica; inoltre rimaneva in atto il progetto di una Scuola di Medicina, ma ancora mancavano i fondi. In questo periodo, esattamente nel dicembre 1891, Osler terminò la stesura del suo testo di medicina interna "The Principles and Practice of Medicine", dedicato ai suoi primi maestri, William Arthur Johnson, James Bovell e Palmer Robert Howard. Questo trattato rimarrà per i 40 anni a seguire il più utilizzato in tutto il mondo. Tra l'altro dobbiamo a questo libro la nascita del Rockefeller Institute of Medical Research: al tempo il magnate del petrolio cercava un modo di investire una parte delle sue enormi sostanze, quando gli capitò sotto mano il trattato di Osler; la chiarezza e la profondità di questo lo illuminarono e decise di istituire un centro di ricerca biomedica. Ora il Rockefeller Institute è uno dei centri di ricerca più importanti del mondo e ha sfornato finora 23 vincitori del Premio Nobel. Il 1891 è anche l'anno del suo matrimonio. Poiché aveva ormai 42 anni e una posizione consolidata, decise che era tempo di sposarsi e prese in moglie la sig.ra Gross, vedova del Dr. Samuel Gross di Filadelfia. Le nozze avvennero in gran segreto e solo due o tre intimi erano a conoscenza della cosa. Gli altri seppero tutto in seguito, a fatto avvenuto. 