Efter att James Tavernier straffats för en sista minuten utmaning på Jonny Hayes, James Maddison rullade hem en fantastisk set-bit från 25 meter.
" Domaren hanterade ett svårt spel mycket bra," sade Warburton.
"Han gjorde ett riktigt bra jobb fram till den punkten, men att ge den där är frustrerande bortom all tro."
Warburton är övertygad om att Tavernier gjorde en "utmärkt tackling" och konfronterade domare John Beaton på planen på heltid.
"Jag ska vara försiktig med vad jag säger om frikick," tillade han. "Alla såg bollen röra sig. Den fjärde tjänstemannen vid åskådarna såg bollen röra sig och gjorde en kommentar. Och ändå ges en frikick.
"Du måste vara, tror jag, 100% säker i denna typ av spel, i dessa områden i parken.
"Sent i spelet, när dina spelare är trötta, Jag tyckte Tav gjorde en utmärkt tackling där. Jag tror inte deras spelare stönade om det och det är ett stort beslut att ge. "
Rangers dominerade den första halvan som lagen möttes för första gången sedan januari 2012.
Besökarna blev dock förkylda i öppnings minuten av den andra perioden då Hayes bröt klart för att göra mål.
En surging körning från Rangers kapten Lee Wallace stoppades av Hayes, vilket ledde till ett straff konverteras av Andy Halliday.
Maddisons fantastiska strejk vänster Rangers i den nedre halvan av bordet, med bara två segrar från sina sju liga utflykter, men Warburton insisterar sitt lag rör sig i rätt riktning.
Han sade: "Vi dominerade bollen första halvan helt men vi gick in på halvtid frustrerad det slutade 0-0.
"Vi gav bort ett skolpojkemål och i tre eller fyra minuter såg vi lite steniga ut. Vi tappade fattningen och spelade. Vi fick våra belöningar via straffet och jag trodde att det bara fanns ett team i det.
"Jag är aldrig glad att släppa en punkt, strunta i tre. Men vi flyttade till nästa nivå som ett team och vi blir bättre.
"Pojkarna slår sig ner och vi var glada över långa perioder av det spelet där vi helt dominerade."
Rangers boss Mark Warburton var rasande med utmärkelsen av en fri-kick från vilken Aberdeen gjorde sitt vinnande mål i en 2-1 seger på Pittodrie.