Dopo la laurea, Holmes divenne presto una figura conosciuta nell'ambiente medico diventando membro della Massachusetts Medical Society, la Boston Medical Society e la Boston Society for Medical Improvement, un'organizzazione composta da giovani medici che erano stati formati a Parigi. Guadagnò ancor più celebrità quando vinse il prestigioso Boylston Prize dell'Harvard Medical School's, scrivendo una tesi sui benefici dell'uso dello stetoscopio, strumento ancora poco conosciuto dai medici statunitensi.