Det gör det möjligt för användare att styra spel på pekskärmen enheter och kan visa extra information om framsteg.
Det låter också handdatorerna fungera som regulatorer för byråns Internet Explorer webbläsare, som kommer att starta på konsolen senare i år.
Flytten utgör en utmaning för Nintendos Wii U Game Pad.
Medan det japanska företagets produkt är särskilt utformad för att öka upplevelsen av att använda sin nästa generations konsol, Microsoft erbjuder användarna ett sätt att utöka funktionaliteten hos sina befintliga spelmaskiner via tredje part enheter som de redan kan ha.
"Xbox SmartGlass fungerar med alla enheter som du redan äger: den TV du redan äger, telefonen du redan äger och surfplattan du redan äger", säger Marc Whitten, chef för Microsofts Xbox Live division.
"Xbox SmartGlass gör vilken TV som helst till en smart TV."
En demo visade den efterlängtade förstapersonsskytten Halo 4 med hjälp av anläggningen för att utlösa kartor och andra data om dess i-game miljö.
Tillkännagivandet
 gjordes i Microsofts keynote presentation på E3 videospel trade show i Los Angeles.
Whitten tillade att SmartGlass också skulle förbättra TV-program och filmer som sänds via Xbox.
Han gav exempel på en tittare som tittar på Game of Thrones på deras TV och som kan titta ner på sina surfplattor för att se var på skärmen karaktärer fanns på en karta över showens fantasivärld.
Demonstrationen visade också hur den länkade enheten kunde ta upp detaljer om rollerna och karaktärerna medan användaren tittade på en film.
"Det låter Microsoft säga att du inte behöver köpa ny hårdvara för att ha en två-skärm erfarenhet," Stephen Totilo, redaktör för spel webbplats Kotaku, berättade BBC.
"Nintendo såg ut att ligga före alla andra på detta, men nu Microsoft andas i nacken. Men det kan finnas lite rök och speglar här eftersom jag inte är övertygad om att SmartGlass kommer att ha lika mycket funktionalitet som Wii U erbjuder."
Appen var också hånad av South Parks skapare Trey Parker som var på evenemanget för att främja ett nytt videospel med sina karaktärer.
"Hur många gånger har du tittat på en episod av South Park och tänkte att jag skulle vilja kunna titta på detta på min TV medan fastnade i min mobila enhet som styrs av min surfplatta enhet som är fast i min ugn hela medan sitter i kylskåpet," skämtade han.
Nya användningsområden för Microsofts Kinect rörelse-och röstsensor var också mycket framträdande i E3-presentationen.
En sammansvetsning med Nike
 kommer att leverera en titel mot slutet av året då en digital personlig tränare ger feedback på ägarnas träningstekniker baserat på information som samlats in av Kinect.
Röstkommandon visades användas för att ändra lagformationer i nästa upplaga av den amerikanska fotbollssimuleringen John Madden NFL, och för att kalla in flygstrejker i actionspelet Splinter Cell Blacklist.
Ett nytt spel som heter Wrecketer gör det också möjligt för spelare att använda gester för att starta och styra missiler för att förstöra slott i en titel som bygger på ett liknande koncept som Angry Birds.
Microsoft främjade också sin enhet som en underhållning nav.
En ny tjänst som heter Xbox Music kommer att erbjuda "över 30 miljoner musikspår" till Xbox samt Windows 8 och Windows Phone-enheter.
En video föreslog tjänsten skulle konkurrera liknande erbjudanden från Spotify, Rdio och andra. Detaljerna var dock knappa utan lanseringsdatum eller länder som nämns, och ingen kommentar om hur det skulle påverka företagets befintliga Zune produkt.
Amerikanska användare utlovades nytt innehåll inklusive NBA basketspel, Paramount Pictures filmer och Nickelodeon barnprogram.
Mycket av resten av presentationen ägnades åt trailers visar nya titlar i befintliga videospel franchise som Tomb Raider, Fable, Call of Duty och Resident Evil.
"Vi får förmodligen en ny Xbox-konsol 2013 så det kommer att bli vad nästa E3 handlar om, så de var tvungna att spendera detta år prata om de saker som föregår det," sade Mr Totilo.
"Men människor som blir upprörda över uppföljare glömmer att de tenderar att vara några av de bästa spel som någonsin gjorts som utvecklare behöver inte oroa sig för att arbeta med ny hårdvara, och kan istället finslipa sitt hantverk och vara kreativ."
Microsoft har presenterat Xbox SmartGlass: en tjänst som tillåter surfplattor och smartphones att kommunicera med sina videospelskonsoler.