Diplomato nel 1938 alla Urbana High School, Holley intraprese gli studi in chimica all'università dell'Illinois presso Urbana-Champaign, dove si laureò nel 1942, prima di iniziare il programma di PhD in chimica organica presso la Cornell University.