Minst två överfulla båtar - med många kvinnor och barn ombord - bogserades av lokala fiskare till stranden av Aceh provinsen på söndag.
Myanmar - även känt som Burma - vägrar att erkänna Rohingya som medborgare.
Hundratusentals människor har flytt undan förföljelse på senare år, ofta genom Thailand men också till sjöss.
Indonesiska myndigheter och biståndsorgan tror att den räddade gruppen hade varit till sjöss i ungefär en vecka.
De kan ha försökt nå Malaysia, sade Steve Hamilton från Internationella organisationen för migration.
Han sade på söndagen att sammanlagt fyra båtar troddes ha kommit i land.
"Folk trodde att de var i Malaysia, det visade sig att de var i Indonesien. De lämnades kvar av smugglarna."
Aceh provinsiell räddningschef Budiawan berättade för AFP nyhetsbyrå på söndagen: "Vi fick en rapport från fiskare i morse att det fanns båtfolk strandsatta."
"Vi lämnade team där och evakuerade 469 migranter som är Rohingya från Myanmar och Bangladeshis. Hittills är alla säkra."
Polischef Achmadi sa att minst 50 av de räddade fördes till sjukhus.
"I allmänhet led de av svält och många var mycket magra."
En invandrare, Rashid Ahmed, berättade för Associated Press att han var en Rohingya och hade lämnat Myanmars Rakhine stat för tre månader sedan med sin son.
"Vi hade inget att äta. Allt vi kunde göra var att be, sa han.
Rohingyamuslimer har flytt sekteristiskt våld i Myanmar i många år.
I december antog FN en resolution där man uppmanade Myanmar att ge tillgång till medborgarskap för Rohingya, varav många klassas som statslösa.
Organisationen uppskattar att omkring 25 000 Rohingya och Bangladesh har gått ombord på smugglarbåtar mellan januari och mars i år, vilket är dubbelt så mycket som under samma period förra året.
Nästan 600 personer tros vara Bangladeshis och Rohingya Muslims från Myanmar har räddats från båtar som driver i indonesiska vatten.