Rothman ha iniziato la sua carriera presso il Dipartimento di Biochimica presso la Stanford University nel 1978. È stato alla Princeton University tra il 1988 ed il 1991: Successivamente, a New York, ha fondato il Dipartimento di Biochimica e Biofisica Cellulare presso il Memorial Sloan-Kettering Cancer Center, dove è stato anche vice presidente del Sloan-Kettering Institute.