Figlio di Antoine Magendie, chirurgo stimato e animato da sentimenti repubblicani, e di Nicole De Perey De Launay, parigina. Nel 1791 la famiglia si trasferì a Parigi e l'anno successivo Francois e Jean Jacques, suo fratello, persero la madre. Il padre, fortemente influenzato dalle idee di Jean-Jacques Rousseau, non permise ai figli l'istruzione scolastica, lasciando libero sfogo alle loro attitudini naturali, senza alcuna guida formativa. Probabilmente furono queste circostanze che portarono, Magendie, allo sviluppo delle sue capacità di osservazione delle facoltà degli animali e degli uomini. Solamente all'età di dieci anni cominciò a frequentare le scuole primarie e imparò a leggere e a scrivere, divenendo il più bravo allievo delle scuole parigine.