Egli studiò in una scuola superiore a Montevallo. Iniziò gli studi medici in Alabama per poi continuarli all'Università della Pennsylvania, dove ottenne un Medical Degree nel 1942. Nel 1944, durante la seconda guerra mondiale, fu chiamato in servizio dall'esercito americano. Per i due anni successivi prestò servizio presso l'81º ospedale da campo in Europa. Fu allora che decise che sarebbe diventato un chirurgo. Questa decisione venne maturata dallo stesso Hardy, motivata specialmente dal contatto con pazienti gravemente feriti quotidianamente. Lavorando nello Stark General Hospital di Charleston, conobbe la sua futura moglie Louise Scott Sams, di Decatur, Georgia. Ella morì di alzheimer nel 2000, dopo aver dato al mondo quattro figlie: la dottoressa Louise Roeska-Hardy, professoressa di filosofia a Heidelberg e Francoforte, la dottoressa Julia Ann Hardy, psichiatra nel Michigan, la dottoressa Bettie Winn Hardy, psicologa clinica e direttrice del programma sui disturbi alimentari presso l’University of Texas Southwestern Medical School, e la dottoressa Katherine H. Little, direttrice medica del Diagnostic Center for Digestive Diseases presso la Baylor University Medical Center. 