Quando il Nazismo prese potere in Germania, Gräfenberg (nato ebreo) fu costretto a dimettersi dal ruolo di capo ginecologo e ostetrico dell'ospedale municipale di Berlino-Britz (1933). Ignorando i consigli dell'amico Hans Lehfeldt, rimase in Germania, dove venne arrestato nel 1937 per aver contrabbandato un prezioso bollo fuori dal Paese. Nel 1940 venne rilasciato da una prigione nazista grazie a Margaret Sanger, e si trasferì negli USA iniziando a lavorare a New York.