Da giovane Holmes era mingherlino e soffriva d'asma, ma spiccava tra i suoi coetanei perché molto precoce. All'età di otto anni portò suo fratello John di cinque anni a vedere l'ultima impiccagione nel Gallows Lot di Cambridge e, per questo, fu successivamente punito dai suoi genitori. Amava anche esplorare la biblioteca del padre e scrisse più tardi nella sua vita che “per la maggior parte i libri riguardavano la teologia, così che ero racchiuso da fogli solenni che facevano piegare le mensole sotto il carico della conoscenza sacra". Dopo essere stato influenzato dalle letture delle opere di poeti come John Dryden, Alexander Pope e Oliver Goldsmith, il giovane Holmes iniziò a comporre e a recitare i propri versi. La prima poesia di Holmes che ci è pervenuta, trascritta da suo padre, venne composta quando aveva 13 anni.