L'istituto fu fondato dal premio Nobel Robert Koch, considerato, con Louis Pasteur, il padre della moderna batteriologia, nel 1891 col nome di ""Preußisches Institut für Infektionskrankheiten"". All'inizio l'istituto si stabilì in un immobile residenziali riconvertito che si trovaava in Schumannstraße, fu nel 1900 che si trasferì a Nordufer, quella che è considerata la sede storica. Nel 1904 Koch abbandonò la direzione dell'istituto e l'anno dopo ottenne il Premio Nobel per la scoperta dell'agente patogeno della tubercolosi. Nel 1912, in occasione del 30° anniversario della scoperta del batterio della tubercolosi, l'istituto fu intitolato a Robert Koch. 