Studiò a Lipsia dal 1821 e nel 1826 ottenne il dottorato. Nel 1828 fu abilitato come "Privatdozent" all'Università di Lipsia, successivamente divenne professore straordinario di zootomia nel 1834. Nel 1837 andò a Dorpat come professore di fisiologia, patologia e semiotica. Tuttavia, la sua residenza a Dorpat fu breve: partì per Halle già nel 1843. Nel 1854 Volkmann insegnò anche anatomia, fino al 1872, quando la fisiologia fu ramificata e ceduta a Julius Bernstein.