Terminati gli studi, Holley restò presso la Cornell University come professore associato in chimica organica (a partire dal 1948) e, a partire dal 1962, come professore di biochimica. Iniziò ad interessarsi alle ricerche sull'RNA dopo due anni sabbatici (1955 - 1956) passati al California Institute of Technology con James Bonner.