Nato a Hradec Králové in Boemia nel 19 febbraio del 1804 era il figlio di un amministratore del distretto imperiale asburgico. Egli andò a scuola nel Königgrätz per poi trasferirsi a Praga nel 1818, dove, dopo aver studiato filosofia nell'università di Praga, si dedicò allo studio della medicina. Dopo essersi laureato, nel 1828 ottenne il dottorato dall'università di Vienna e in seguito lavorò come assistente di Johann Wagner (1800-1832), professore di anatomia patologica, tra il 1828 e il 1832. Alla morte di Wagner nel 1832, Rokitansky ricevette temporaneamente la cattedra di anatomia patologia e diventò il curatore del museo di patologia. Nel 1834 divenne assistente del professore straordinario e prosettore dell'ospedale generale di Vienna (Wiener Allgemeins Krankenhaus) per poi, nel 1844, guadagnarsi il posto di professore ordinario della facoltà di anatomia patologica. Successivamente Rokitansky raggiunse posizioni di prestigio nel mondo dell'amministrazione scientifica e medica di Vienna come ad esempio nel 1848, momento in cui venne nominato membro dell'Accademia Viennese delle Scienze (Wiener Akademie der Wissenschaften) e in seguito suo presidente dal 1869 al 1878. Nel 1850 diventò presidente della Società dei Medici Viennesi (Gesellschaft der Arzte in Wien) e infine nel 1863, assistente della corte per affari medici (Hofrat und Ministerialreferent fur die Medizin).