Nuland nacque nel Bronx, New York City, nel dicembre del 1930, figlio di genitori ebrei immigrati, Meyer e Vitsche Nudelman. Sebbene cresciuto in una famiglia ebrea ortodossa, Sherwin si considerava agnostico pur frequentando la sinagoga.