När Mayo producerade bedrövlig skytte och Derry Keeper Ben McKinless gjorde flera stora räddningar, besökarna leds av två med två minuter av normal tid kvar.
Men ett Conor Loftus mål gjorde det möjligt för Mayo att leda med tre endast för Mark Lynch s knytnäve mål att tvinga extra tid.
Men Jason Dohertys mål hjälpte Mayo att ta kontroll tidigt i extra tid.
James Kielt hade en straffchans, som om den hade konverterats, skulle ha klippt Mayos ledning, men hemvårdaren David Clarke kunde göra en bekväm räddning.
Mayo's Patrick Durcan skickades iväg för en skenbar off-the-ball strejk sent i den första perioden av extra tid men de var fortfarande sju klara på väg in i de sista 10 minuterna av handling och Derry kunde inte kalla upp ytterligare beslutsamhet.
Efter en ganska insipid Ulster SFC display mot Tyrone, Derry omgrupperade för att slå Waterford för två veckor sedan och deras engagemang i Castlebar var totalt.
The Oak Leafers såg de troliga vinnarna för större delen av den normala tiden som Mayos gamla misslyckande av missade chanser såg ut att äntligen signalera slutet för detta band av västerländska krigare.
Substitute Loftus sista-gasp 1-1 verkade ha ryckt seger för Mayo i normal tid bara för Lynch mål att jämna saker och Kielt hade då en svår fri chans att försegla en Derry triumf bara för hans ansträngningar att missa målet.
När Derry kom in i deras steg, satte de igång med att ställa in den tidiga ledning Mayo hade etablerat genom Cillian O'Connor och Andy Moran.
Derry växte i förtroende när spelet fortskred, tar på sina motståndare med tempo på flankerna och snabb rörelse av bollen, samtidigt som det håller saker och ting tight på baksidan.
Niall Loughlin fick dem att flytta med ett par poäng, och det var Benny Heron som laddade genom mitten för att skjuta över en inspirerande lead point i 16: e minuten.
Skipper Enda Lynn gav passet för Ryan Bell att skjuta dem två framåt, och hemmasidan gick 10 minuter utan en poäng, innan O'Connor konverterade sin andra fri.
Mayo hade nästan ett mål när McKinless drev en Moran ansträngning på till en post, och förnekade O'Connor från rebound, men Derry förnekades också av målvakt David Clarke, som förnekade Carlus McWilliams, innan bollen kanonerades av en försvarare och vidare till en post.
De Ulster män förlorade midfielder Conor McAtamney till ett svart kort strax före pausen, men tack vare en fjärde poäng från Loughlin, vände de runt med en smal 0-8 till 0-7 ledning.
Derry försvarade hjältemodigt genom den andra halvan med McKinless dra av två fler enorma räddningar.
Kielt hade bara lättat dem två framåt när Mayo fick målet de så desperat behövde, ersätta Loftus krossa bollen till nätet med bara två minuter att spela.
Men Oak Leafers vägrade att kapitulera och drog tillbaka det utjämnande målet genom att ersätta Mark Lynch för att tippa upp det vid 1-12 varje och skicka slipsen till extratid.
Ett annat substitut Jason Doherty slog i ett andra Mayo mål, och sedan var det tur för deras målvakt David Clarke att utföra heroiska med en straff rädda från Kielt.
Trots förlusten av Patrick Durcan till en rak röd kort, vände de sig om med en sju poäng fördel, 2-17 till 1-13, O'Connor har tagit sin räkning till tio poäng, inklusive en första från spel.
Och de tryckte ut klyftan till 11 poäng med poäng från O'Connor, som slutade med 12, Doherty och Diarmuid O'Connor.
Derry's Chrissy McKaigue: " Det har varit ett mycket svårt år. Vi har en mycket liten grupp på grund av ett antal spelare är otillgängliga av olika skäl.
"Allt du kan fråga om att alla tömmer uppgiften och jag tror att vi gjorde det idag. En annan dag måste vi ha smitit.
"Defeat är alltid tänkt att vara förödande och det var definitivt förödande idag."
Lördagens resultat för god jordbrukshävd och goda miljöförhållanden
Derry fick slut på ånga i extra tid i kvalet mot Mayo då förra årets besegrade All-Ireland finalister överlevde ett nervvuxet Castlebar test.