Già durante i primi anni di servizio militare Sternberg cominciò a interessarsi di paleontologia e a raccogliere fossili vegetali nella "Formazione Dakota" che inviava al famoso paleontologo Léo Lesquereux. Successivamente si dedicò alla ricerca di fossili di vertebrati raccolti nelle formazioni "Smoky Hill Chalk" e "Pierre Shale" nel Kansas occidentale e conservati attualmente nella "Smithsonian Institution" a Washington. Educò all'amore per i fossili il fratello minore Charles Hazelius, che diventerà un famoso paleontologo.