Di religione ebraica, nacque nel 1906 nel ghetto di Białystok, una città polacca che all'epoca faceva parte dell'Impero russo, ed emigrò negli Stati Uniti nel 1921 con la sua famiglia, dove, nel 1930, acquisì la cittadinanza statunitense, variando completamente il proprio nome e cognome. Il padre Jacob, un artigiano, decise di lasciare la Polonia anche perché il clima verso gli ebrei era diventato molto ostile, e lo stesso Albert aveva fatto le spese di questo clima; sin dalla nascita Sabin non vedeva dall'occhio destro, e quando era ancora piccolo un coetaneo gli scagliò contro una pietra che per poco non colpì in pieno l'occhio sano, rischiando di accecarlo. La famiglia Sabin si stabilì a Paterson, nel New Jersey