För värdar Forfar Athletic det var en andra på varandra följande hem 3-1 nederlag efter en körning av nio raka segrar.
Draper satte walesiska mästare framåt efter 24 minuter bara för Stuart Malcolm att svara efter pausen mot loppet av spel.
Forfar var på toppen efter pausen, men två Draper strejker vann slipsen.
Den walesiska sidan som började säsongen i Champions League kval kom till Forfar i självsäker form med 11 raka segrar bakom sig och de såg desto mer imponerande sida i öppningen 20 minuter.
Alex Darlington, som hade gjort båda målen i en mittvecka inhemska seger, hade den första möjligheten av matchen, men målvakt Grant Adam kom ner smart för att spara sin 20-yards insats.
TNS slösade ytterligare en chans som Aeron Edwards kom in i lådan omärkt för att möta ett hörn men skickade sin rubrik tillbaka över mål och off-mål.
Den walesiska sidan dominerade innehavet och den skotska ligan Två ledare kämpade för att knyta an till Jim Lister och Josh Peters, som försökte ge ett anfallande hot.
TNS tog ledningen efter 23 minuter, men det var kontrovers.
Forfar var övertygad om att de hade vunnit ett hörn, men en mål-kick belönades som snabbt togs och en defensiv miss-header hittade sin väg till Draper, som kontrollerade bollen och halkade den bortom Adam.
TNS slösade ytterligare två chanser att lägga till sin ledning innan Forfar slog tillbaka.
Peters tvingade en räddning från Paul Harrison i TNS mål, men från den resulterande hörnet, Malcolm drev en rubrik i utanför baren.
Kontrollen bytte till Forfar efter pausen då hemmasidan åtnjöt bättre besittning och skapade bättre möjligheter.
Jim Lister nekades två gånger i samma drag, med Phil Baker blockerade sin andra ansträngning, medan målvakt Paul Harrison producerade en fingertopp rädda för att förneka Jamie Bain.
Forfar fortsatte att trycka och en kraftfull Martyn Fotheringham frikick precis avslutat fel sida av inlägget.
TNS hade visat lite i en angripande mening i den andra halvan hade inspirationen av substitut Robbie Parry att tacka för målet som satte dem framåt.
Han körde in i lådan genom att skjuta förbi Adam och Draper.
Draper, med en nyzeeländsk mössa till sitt namn, säkrade sin hatt-trick tre minuter från slutet när Adam missbedömde en lång boll och anfallaren tog den förbi honom i kanten av lådan för att säkra seger.
Greg Draper tog en hatt-trick som The New Saints gjorde historia genom att bli den första icke-skotska sidan i skotska Challenge Cup kvartsfinalen.