54-åringen har tillbringat sju år med att övervaka Premier League-sidans ungdomsuppställning och har en full Uefa coaching A-licens.
"Tiden var rätt för mig att leta efter en ny utmaning och jag går med i en av världens verkligt stora fotbollsklubbar," Allen sade.
"Steeped i historia och tradition, Jag är hedrad att gå med Rangers."
Allen, som börjar sin nya roll nästa månad, började sin karriär som ungdomsspelare med Swindon Town innan han flyttade till San Diego för att ta upp ett fotbollsstipendium och affärs- och redovisningsexamen.
Efter att ha återvänt till Storbritannien fick han ställning som verkställande direktör för MTV:s sändningsavdelning i London under en 13-årig trollformel med det globala musikföretaget.
Rangers VD Stewart Robertson tillade: "Vi är glada att Mark har gått med på att flytta till Glasgow och bli vår nya fotbollschef.
"Han är en visionär som har uppnått stor framgång med Manchester City's Academy. Han har utmärkta kontakter i fotboll men också affärsvärlden och han kommer att vara en stor tillgång för Rangers.
"Vi sa att vi inte skulle rusa in i ett möte eftersom vi ville ha rätt kandidat och vi anser att Mark är den bästa mannen för jobbet. Vi ser fram emot ett nära samarbete med honom under de kommande åren i vad som kommer att bli en viktig roll på klubben."
Manchester City chef för fotboll Txiki Begiristan sade: "Mark har gjort en betydande inverkan på Manchester City genom åren, och han lämnar oss med våra bästa lyckönskningar för framtiden."
Rangers har kallat Manchester City Academy regissör Mark Allen som klubbens chef för fotboll.