Mediauppspelning stöds inte på den här enheten
Nu måste han hitta en ersättare för tysken som lagkamrat till Lewis Hamilton. Och i detta sena skede av året kommer det inte att bli någon lätt uppgift.
Så vem kommer att vara på Wolffs lista och hur troligt är det att de får plats?
Detta är den kamp som många skulle vilja se. Hamilton och Alonso betraktas som de två höga talangerna i sin generation och deras intensiva strid som McLaren lag-kamrater 2007 kortades av Alonso faller ut med chefen Ron Dennis och lämnar laget. De slutade det året bundet på punkter, en bakom världsmästaren Kimi Raikkonen, med fyra segrar vardera.
Omgång två skulle vara det största biljettkontor F1 kunde hoppas på, men det är högst osannolikt att hända av två skäl: 1) Alonso är kontrakterad till McLaren och även om han har en pausklausul - vilket de säger att han inte gör - de skulle inte vilja släppa honom; 2) Ännu viktigare, Wolff vet att de problem han hade med Hamilton och Rosberg skulle blekna jämfört med de potentiella svårigheterna att hantera Hamilton och Alonso.
Chanser att det händer: 6/10
Australien var valet av många observatörer som förare av 2016, och Wolff är ett stort fan. Den på spåren strid med Hamilton skulle vara intensiv, men Ricciardo är en avslappnad karaktär och skulle förmodligen vara lättare att hantera av det.
Men han är kontrakterad till Red Bull fram till 2018. Red Bull säger att de inte har för avsikt att släppa honom, men om Wolff kontaktade dem finns det bara en möjlighet att de kan överväga att sälja Ricciardo. Varför? Eftersom de flesta accepterar att, långsiktigt, Ricciardo och Max Verstappen inte är en hållbar line-up - om Red Bull blir titel utmanare deras relation är mycket sannolikt att bli brandvarelse.
Chanser: 6/10
Verstappen är den stora stigande stjärnan i F1. Shaded av Ricciardo över 2016 som helhet, föreställningar som hans fantastiska driv i våta i Brasilien förra månaden markera honom som en framtida världsmästare.
Wolff skulle vara mycket intresserad men, liksom Ricciardo, Verstappen är kontrakt till Red Bull - i hans fall till slutet av 2019. Och Red Bull är ännu mer kär i holländaren än de är i Ricciardo.
Chanser: 4/10
Vettels kärleksaffär med Ferrari - och vice versa - är långt efter en svår och nedslående säsong. Relationer med team boss Maurizio Arrivabene är slitna - särskilt eftersom den italienska sade fyra-tidens mästare bör fokusera mer på sin körning och behövde för att "tjäna" ett nytt kontrakt efter 2017. Och Vettel var missnöjd med beslutet att dela med teknisk direktör James Allison i sommar.
På samma sätt har Ferrari varit förvirrad hur, efter ett och ett halvt år av lätt slå lagkamrat Kimi Raikkonen, Vettels form halkade under andra halvåret 2016 - även om de kanske vill läsa föregående stycke för ett svar.
Vettel har handlat runt för ett drag och skulle nästan säkert välkomna en övergång till Mercedes. Men det finns några problem: 1) hans kontrakt löper till slutet av 2017 och det finns ingen uppenbar ersättning för Ferrari; 2) han kanske inte gillar att gå upp mot Hamilton; 3) Vettel och Hamilton tillsammans är nästan lika mycket av ett recept på problem som Hamilton och Alonso.
Chanser att det händer: 8/10
Wolff har en lång relation med Bottas som en del av hans ledningsgrupp och värderar honom högt. Finnen har imponerat under de senaste fyra säsongerna med Williams och skulle vara ett lågt underhåll val. Han skulle leverera solida resultat på rätt spår och är lugn och skulle inte rocka båten av den.
Nästa år är det sista året av hans kontrakt på Williams. Laget är inte den mest flush med kontanter i depån och Wolff skulle nästan säkert kunna sätta ihop en attraktiv affär - antingen för en kontant betalning för att släppa Bottas eller en minskning av Williams motoravgift.
Men Williams har en 18-årig rookie i den välförsedda kanadensiska Lance Stroll i sin andra bil nästa år och behöver erfarenhet i den ledande bilen. Wolff kunde erbjuda dem Mercedes protege Pascal Wehrlein, som tävlade för Manor 2016, i utbyte. Men skulle Williams acceptera det? Felipe Nasr, som tävlade för Sauber 2016, skulle också vara ett alternativ för dem, och snälla F1 chefen Bernie Ecclestone, som behöver en brasiliansk i sporten för att tillfredsställa sin största enskilda TV-publik.
Chanser: 9/10
Tysken är det självklara valet - han är Mercedes reservförare, han har testat för laget flera gånger, och han är en fri agent. Men han har bara en säsong ras erfarenhet, och även om han har lagt i några lovande enheter, han har haft några skakiga också.
Att sätta honom i en race-vinnande bil med Hamilton som hans lagkamrat skulle vara en stor fråga. Och det är utan att ens tänka på hans personlighet. Insiders säger Wehrlein kan vara svårt och självcentrerad, och Wolff kommer att vara försiktig med att sätta en sådan karaktär tillsammans med Hamilton.
Chanser: 8/10
En annan Mercedes ung förare, Ocon har imponerat i sin halvsäsong tillsammans med Wehrlein på Manor - så mycket så att Force India valde honom snarare än den tyska som sin andra förare tillsammans med Sergio Perez för 2017.
Men Ocon har bara nio lopp under bältet och det är säkert för tidigt för honom att få en plats i fabriken Mercedes laget.
Chanser: 7/10
Ett vänsterfältsval, skotten har varit borta från F1 i två år nu. Men han var Williams reservförare i år och är en Mercedes-kontrakterad förare i DTM Tyska Touring Car Championship och skulle vara ett bra alternativ.
Chanser: 5/10
Button har gått i pension från F1, men är kontrakterad till McLaren. Han gjorde det mycket tydligt de senaste veckorna att han behövde en paus från sporten.
Chanser: 1/10
Tysken har just tecknat ett treårigt avtal med Renault, men det franska företaget och Mercedes har kopplingar på företagsnivå och Wolff är nära vän med sin tävlingschef Frederic Vasseur.
Men att ta Hulkenberg skulle lämna Renault med en ledig plats som skulle vara svår att fylla och Wolff är inte alltför förtjust i honom heller.
Chanser: 2/10
Mercedes Formel 1 chef Toto Wolff medger att Nico Rosbergs beslut att gå i pension tog honom helt med överraskning - men det är bara början på hans problem.