Omkring 1,57 miljoner kvadratkilometer i södra oceanen kommer att skyddas mot kommersiellt fiske i 35 år.
Miljöaktivister har välkomnat flytten för att skydda det som sägs vara jordens mest orörda marina ekosystem.
De hoppas att det blir den första av många sådana zoner i internationella vatten.
Vid detta möte i Hobart i Australien, kommissionen för bevarande av Antarktis marina levande resurser (CCAMLR) enades enhälligt om att utse Ross Sea som en MPA, efter år av utdragna förhandlingar, meddelade Nya Zeelands utrikesminister Murray McCully.
Rosshavet, dess hylla och sluttning består endast av 2 % av södra oceanen, men de är hem för 38 % av världens Adeliepingviner, 30 % av världens antarktiska petarler och cirka 6 % av världens befolkning av antarktiska minkvalar.
Regionen är viktig för resten av planeten, eftersom näringstillförseln från de djupa vattnen förs med sig strömmar runt om i världen.
Rosshavet är också hem för ett stort antal krill, en stapelmat för arter inklusive valar och sälar. Deras olja är avgörande för laxodlingen. Det finns dock farhågor för att överfiske och klimatförändringar har en betydande inverkan på deras antal.
Förslaget, som infördes av Nya Zeeland och USA, och som godtas av alla andra nationer, kommer att få ett allmänt skydd "no-take" zon där ingenting kan tas bort, inklusive marint liv och mineraler.
Som en del av den kompromiss som nåddes i förhandlingarna kommer det att finnas särskilda zoner där fiske efter krill och tandnoting kommer att tillåtas för forskningsändamål.
"Jag är helt överlycklig", sade Lewis Pugh, FN: s Patron för oceanerna, och någon som har kampanjat i åratal för att stödja denna nya MPA.
"Detta är det största skyddade området på land eller hav, detta är den första stora MPA på öppet hav, de är i stort sett oskyddade."
Havsförespråkaren och simmaren riktade uppmärksamheten på Rosshavet med en serie bad i det iskalla vattnet - och i två år har han deltagit i en serie möten, dubbade "speedodiplomati" med ryska tjänstemän för att övertyga dem om värdet av MPA.
I slutet av förhandlingarna förra året var Ryssland det enda land som motsatte sig ett samförstånd om Rosshavet. Men i år har det varit vad Pugh beskriver som en "miljöglasnost".
Rysslands president Vladimir Putin har utsett 2017 till Ekologiåret och landet har nyligen utvidgat ett MPA kring Franz Josef Land i Arktis.
Sergei Ivanov, president Putins särskilda representant för ekologi, välkomnade det nya avtalet.
"Ryssland har en stolt historia av prospektering och vetenskap i Antarktis. I denna tid av politisk turbulens i så många delar av världen, är vi glada över att vara en del av detta samarbete internationella ansträngningar för att skydda Ross Sea," sade han.
En av de viktigaste frågorna i förhandlingarna var hur länge Läkemedelsverket skulle pågå. Kina står på protokollet eftersom det anser att 20 år är tillräckligt länge för en beteckning.
Många naturvårdare säger att detta är alldeles för kort, med tanke på hur länge varelser lever i Rosshavet, till exempel valar.
Slutligen kom parterna överens om 35 år.
Utnämningen välkomnades inte bara av kampanjdeltagarna utan också av dem som hade nära förbindelser med Rosshavet.
"Rossfamiljen är euforisk att vårt familjearv har hedrats under 175-årsjubileet sedan James först upptäckte Rosshavet", säger Phillipa Ross, stora, stora, stora barnbarn till Sir James Clark Ross, efter vilken Ross Sea är uppkallad.
En av de andra stora farhågorna som fördröjde förslaget var att det skulle kunna utgöra ett prejudikat för andra förhandlingar på öppet hav runt om i världen, såsom i Arktis och i FN:s försök att utveckla ett nytt fördrag om biologisk mångfald i havet.
Lewis Pugh är mycket hoppfull om att så kommer att bli fallet. Och han är villig att fortsätta simma tills det händer.
"Detta för mig representerar ett första steg, Jag är på väg tillbaka till Antarktis halvön för att fortsätta simma, Jag vill se en serie MPAs runt denna kontinent som jag känner så mycket för," förklarade han.
"För mig är detta en fråga om rättvisa - rättvisa mellan generationer. Det verkar vara något fundamentalt fel på oss att förstöra våra hav så våra barn och barnbarn har absolut ingenting."
Följ Matt på Twitter @mattmcgrathBBC och på Facebook.
Delegaterna från 24 länder och Europeiska unionen har kommit överens om att Rosshavet i Antarktis kommer att bli världens största marina skyddsområde.