Forskare använde information om landets geologi för att förutsäga de områden som mest sannolikt kommer att drabbas av giftet.
Rapporten publiceras i tidskriften Science.
Arsenik förekommer naturligt i jordskorpan, men om det läcker ut i grundvattnet kan långvarig exponering orsaka allvarliga hälsorisker.
Dessa inkluderar hudproblem och cancer i huden, lungor, urinblåsa och njure.
Geologiska kartor
Hittills har det varit svårt att uppskatta omfattningen av arsenikföroreningen i stora länder.
Kina tros ha mer än 10 miljoner dricksbrunnar, och var och en måste undersökas för att fastställa om det finns några giftiga föreningar. Denna process kan ta årtionden.
Istället tittade forskare från Schweiz och Kina på geologiska kartor över landet.
Doktor Annette Johnson, från det schweiziska federala institutet för vattenvetenskap och vattenteknologi (EAWAG) och en medförfattare till studien, förklarade: " Under de senaste åren har den mängd geospatial information - elektroniska kartor - som blivit tillgänglig blivit stor. Du har information som klimatdata, markanvändning och avstånd till flod eller höjd."
Med hjälp av denna information, och genom att titta på de typer av stenar som finns i landet, och i synnerhet deras ålder, forskarna pekade ut de regioner där det giftiga ämnet är mest sannolikt att hittas.
Deras resultat tyder på att 19,6 miljoner människor i Kina skulle kunna utsättas för osäkra nivåer i sitt dricksvatten, däribland vissa som bor i områden som inte tidigare ansågs vara i riskzonen.
Dr Johnson berättade för BBC World Service-programmet Science in Action: "De är områden längs avrinningsområden där det finns bevattning och jordbruk, inklusive områden som tidigare var kända som Huhhot-bäckenet i Inre Mongoliet, men det finns också nya områden i centrala Sichuanprovinsen och längs östkusten."
Forskarna säger att resultaten kan hjälpa de kinesiska myndigheterna med deras välscreeningsprogram.
Doktor Johnson förklarade: " Vad det är mycket viktigt att göra är att gå till de områden som är hotspots och avskärma dem först. Chansen är att du hittar mer förorenade brunnar än brunnar som inte är förorenade.
"Och inom de andra områdena, måste du fortfarande se till att du gör screening för arsenik, men det är förmodligen inte en så hög prioritet."
Wells som är förorenade kan antingen behandlas eller tas ur bruk, tillade hon.
Forskarna tror att denna nya förutsägelsemetod kan användas på andra håll i världen.
Arsenikförorening av grundvatten förekommer i Centraleuropa, Sydamerika, delar av USA och Asien.
Men ett land som skulle kunna dra nytta av detta är Bangladesh, där arsenikförgiftning har beskrivits av Världshälsoorganisationen som en "folkhälsokris".
Det beräknas att mellan 35 miljoner och 77 miljoner människor där löper risk att dricka förorenat vatten.
Nästan 20 miljoner människor i Kina skulle kunna utsättas för vatten som förorenats med arsenik, enligt en undersökning.