Era il figlio del farmacista Hermann von Fehling (1811-1885). Nel 1872 ha conseguito il dottorato in medicina presso l'Università di Lipsia, e dopo il diploma è rimasto a Lipsia come assistente di ostetrico di Carl Siegmund Franz Credé (1819-1892). Nel 1877 è diventato direttore della scuola di ostetricia di Württemberg, Stoccarda, e in seguito ha accettato un posto da insegnante presso l'Università di Tubinga (1883).