Nato a Günzburg, in Baviera il 16 marzo 1911, fu primo di tre figli di Karl e Walburga Mengele. Il padre era un noto industriale e dirigeva la "Karl Mengele und Sohn", importante e affermata azienda produttrice di macchine agricole che impiegava circa 200 dipendenti.