Era il figlio del fisiologo Ernst Heinrich Weber (1795-1878). Studiò medicina presso le Università di Göttingen e Lipsia, conseguendo il dottorato in quest'ultima istituzione nel 1854 con la tesi "De causis streptiuum in vasis sanguiferis oberservatum". L'anno seguente ricevette la sua abilitazione, successivamente servendo come docente di medicina interna presso l'Università di Lipsia. Dal 1859 al 1861 fu professore associato a Lipsia, trasferendosi successivamente all'Università di Halle, dove fu professore ordinario di patologia e terapia dal 1862 al 1899. A Halle, fu anche direttore della clinica medica universitaria.