Shillington, som gjorde 90 framträdanden i 50-over format, kommer att fortsätta att spela 2020 internationella.
Den 36-årige gjorde 1 276 körningar, inklusive sex halvcenturier, i en ODI-karriär som började i augusti 1997.
Irland, som redan är ute efter en VM-plats, förlorade med 36 lopp i en regnpåverkad tävling i Colombo.
Irländarna skålades för 166 med en boll av deras 50 overs att skona, med Malahidekeeper Mary Waldron topp-skorning med en unbeaten 33.
Isobel Joyce (30), Cecelia Joyce (29) och Gaby Lewis (21) kunde inte driva på mot en Sydafrika sida som redan hade säkerställt kvalificering, som Lizelle Lee, Sune Luus och Dane van Niekerk alla tog två wickets.
Kim Garth fångade Lee lbw tidigt i Sydafrikas svar, men Laura Wolvaardt (32 inte ute) och Mignon du Preez (29 inte ute) tog dem till 82-1 när regn och åska på Colombo Cricket Club begränsade spelet med slagsidan långt framåt på Duckworth-Lewis-Stern systemet.
Shillington, vars ODI-karriär började som 16-åring, sade: "Det känns som om det är rätt tid att gå bort från det längre formatet på grund av det ökade programmet och kommande turnéåtaganden.
"Men jag är glad över att få vara med i T20-formatet med en kvalificerare och World T20 som kommer 2018."
Under 2013 blev hon den första irländska kvinnan att göra en 2020 hundra i en 117-run seger över Japan, hamra en unbeaten 114 från 72 bollar i Dublin, även om den matchen inte klassades som en "full" T20 internationella som Japan inte har T20 internationell status.
Detta innehåll fungerar inte på din enhet, kontrollera Javascript och cookies är aktiverade eller uppdatera din webbläsare
Clare Shillington meddelade att hon gick i pension från endagsinternationaler efter Irland förlorade till Sydafrika i sin sista VM kvalmatch.