Det gjorde anklagelserna i en fördömande rapport sammanställd efter intervjuer med mer än 200 Rohingya flyktingar som flydde från Myanmar till Bangladesh.
En mor berättade hur hennes femåriga dotter mördades när hon försökte skydda henne från våldtäkt.
Hon sa att en man tog fram en lång kniv och dödade henne genom att skära halsen av henne.
I ett annat fall lär en åtta månader gammal bebis ha dödats medan fem vakter våldtog hans mor.
Uppskattningsvis 65.000 medlemmar av den muslimska minoritetsgruppen har flytt till Bangladesh sedan våldet bröt ut i Myanmar - även känt som Burma - i oktober förra året.
Nästan hälften av dem som intervjuades av FN sade att en familjemedlem hade dödats. Av 101 kvinnor som intervjuades sade 52 att de hade våldtagits eller utsatts för sexuellt våld från säkerhetsstyrkorna.
Många berättade för utredare att medlemmar av armén eller polisen hade bränt hundratals hus i Rohingya, skolor, marknader, affärer och moskéer.
Många vittnesmål "bekräftade att armén avsiktligt satte eld på hus med familjer inuti, och i andra fall drev Rohingyas in i redan brinnande hus", sägs det i rapporten.
Många offer sade att de blev smädade när de misshandlades eller våldtogs, när förövarna sade till dem: "Vad kan er Gud göra för er? Se vad vi kan göra?"
FN:s högkommissarie för mänskliga rättigheter Zeid Raad Al Hussein sade: "Den grymhet som dessa barn i Rohingya har utsatts för är outhärdlig - vilket slags hat skulle kunna få en man att hugga ett barn som ropar på sin mors mjölk?
"Jag uppmanar det internationella samfundet, med all sin styrka, att tillsammans med mig uppmana ledningen i Myanmar att få ett slut på sådana militära operationer."
Landets regering och dess de facto-ledare Aung San Suu Kyi har tidigare avfärdat anspråk på rättighetsmissbruk och insisterat på att säkerhetsstyrkorna följer rättsstatsprincipen.
Suu Kyis talesman sade dock till BBC att de senaste anklagelserna var ytterst allvarliga. Talaren sade att tjänstemän skulle undersöka dem omedelbart.
FN har anklagat säkerhetsstyrkorna i Myanmar för att begå allvarliga brott mot de mänskliga rättigheterna, däribland våld mot gäng, brutal misshandel och barnamord.