Si arruolò nel corpo sanitario dell'esercito USA il 28 maggio 1861 come assistente chirurgo. Il 21 luglio dello stesso anno fu fatto prigioniero nella prima battaglia di Bull Run; dopo essere scappato, contrasse l'ileotifo. Riprese l'attività di medico militare per lo più in ospedali militari, a Portsmouth (Rhode Island) e a Cleveland (Ohio). Negli anni immediatamente successivi alla guerra civile le sue vicende furono quelle tipiche seguì dei giovani ufficiali medici con frequenti spostamenti di sede soprattutto in territori del West. Il 19 ottobre 1865 a Jefferson Barracks, un accampamento militare nel Missouri, sposò Louisa Russell, una giovane donna di Cooperstown che morirà il 15 luglio 1867 a Fort Harker durante un'epidemia di colera. Sternberg si risposerà il 1º settembre 1869 a Indianapolis con Martha L. Pattison.