Friedrich Wilhelm Ernst Albrecht von Graefe nacque a Berlino, capitale della Prussia, a Finkenheerd il 22 maggio 1828 in una famiglia nobile, la quale aveva stretto relazioni sociali con molti intellettuali e artisti del tempo come lo scrittore Karl Immermann e l'architetto Friedrich Schinkel. Suo padre, Karl Ferdinand von Gräfe, era un noto chirurgo, professore ordinario e direttore della clinica chirurgica dell'Università di Berlino a partire dal 1818. Albrecht, dopo aver frequentato il migliore liceo francese della sua città ed aver conseguito la maturità all'età di quindici anni, fu persuaso dal padre a intraprendere nel 1843 gli studi medici all'università di Berlino.