Thomas nacque in Louisiana, nella città di New Iberia, nipote di uno schiavo. Egli frequentò le scuole superiori a Nashville negli anni venti. Sebbene sottoposto a segregazione razziale, ricevette dalla scuola un discreto livello di istruzione.. Egli sperava di andare al college e diventare dottore, ma la Grande Depressione mandò in fumo il suo progetto. Nell'estate del 1929 lavorò all'Università Fisk facendo il falegname, ma fu sospeso dal lavoro durante la recessione. In conseguenza del crollo della borsa nell'ottobre del 1929, Thomas lasciò in sospeso il suo progetto e, attraverso un amico, nel febbraio del 1930 si assicurò un lavoro come assistente di laboratorio del dottor Alfred Blalock all'Università Vanderbilt. Sebbene Blalock avesse assunto Thomas per pulire le gabbie e dare da mangiare ai cani da laboratorio usati per gli esperimenti chirurgici, egli scoprì le straordinarie doti di coordinamento occhio-mano sviluppate da Thomas durante il suo lavoro di falegname. Quando Blalock si rese conto che Thomas possedeva una mente altrettanto acuta, cominciò a fargli fare più lavoro di laboratorio e meno manutenzione. Thomas venne assunto e pagato come bidello, nonostante che dalla metà degli anni Trenta egli svolgesse nel laboratorio il lavoro di un ricercatore munito di post-dottorato. Prima di incontrare Blalock, Thomas aveva sposato Clara ed insieme ebbero due figlie. Quando le banche di Nashville fallirono, nove mesi dopo che egli aveva iniziato a lavorare con Blalock, e tutti i suoi risparmi andarono in fumo, Thomas abbandonò i suoi progetti per il college e la laurea in medicina, accontentandosi di avere comunque un lavoro, anche se poco pagato, durante il periodo della Grande Depressione.