Washington skyllde på Ryssland och den syriska regeringen för att de intensifierat sina attacker mot civila.
Förra veckan varnade USA för att stoppa samtalen om inte Moskva slutar bomba staden Aleppo.
Ryssland sade att det beklagade USA:s agerande och anklagade det för att ha förskjutit skulden för att förra månadens vapenvila kollapsade.
Aleppo, Syriens största stad i norr, har utsatts för kraftiga flygbombningar sedan vapenvilan upphörde för två veckor sedan.
Det största traumasjukhuset i den rebelliska östra delen av staden drabbades av ett flyganfall för tredje gången på en vecka, sade aktivister på måndagen.
Hundratals människor, inklusive barn, har dött sedan regeringsstyrkorna inledde en offensiv för att ta full kontroll över Aleppo efter att den veckolånga vapenvilan upphört.
Omkring 250.000 människor är fångade i östra Aleppo.
I ett uttalande sade talesmannen för den statliga avdelningen John Kirby: " Förenta staterna avbryter sitt deltagande i bilaterala kanaler med Ryssland som inrättades för att upprätthålla upphörandet av fientligheterna.
"Tyvärr misslyckades Ryssland med att leva upp till sina egna åtaganden... och var också antingen ovilliga eller oförmögna att se till att den syriska regimen följde de arrangemang som Moskva samtyckte till.
"Ryssland och den syriska regimen har valt att gå en militär kurs", sade Kirby och erkände att "detta är inte ett beslut som togs lättvindigt".
Han sade att Moskva och Syriens president Bashar al-Assads trupper hade "riktat sig mot kritisk infrastruktur som sjukhus och hindrat humanitärt bistånd från att nå civila i nöd, bland annat genom attacken den 19 september mot en konvoj för humanitärt bistånd".
Moskva förnekar starkt sina egna eller syriska flygplans inblandning i den dödliga hjälpkonvojen strejk, och säger att händelsen orsakades av brand på marken och inte av en flygattack.
Som svar på USA:s avbrytande av samtalen sade den ryska utrikesministern Maria Zacharova: "Vi beklagar detta beslut från Washington."
"Washington uppfyllde helt enkelt inte det viktigaste villkoret i avtalet för att förbättra det humanitära tillståndet runt Aleppo.
"Efter att ha misslyckats med att uppfylla de avtal som de själva arbetat fram, de försöker flytta ansvaret på någon annan", sa Zakarova.
Hon sade också att USA hade misslyckats med att skilja jihadistiska grupper i Syrien från den moderata oppositionen.
Ryssland och USA skulle samlas i Genève för att försöka samordna flygstrejker mot jihadistiska grupper, men amerikanska tjänstemän uppmanades att återvända hem.
USA sade också att man skulle dra tillbaka personal "som hade skickats ut i väntan på ett eventuellt inrättande av det gemensamma (US-ryska) genomförandecentrumet".
De båda sidorna skulle dock fortsätta att tala om insatser mot terrorism i Syrien för att undvika onödiga sammandrabbningar.
USA har sagt att man avbryter samtalen med Ryssland om Syrien och anklagar Moskva för att ha "misslyckat att leva upp" till sina åtaganden enligt ett avtal om eldupphör.