A Argentina vivia momentos críticos com os enfrentamentos civis entre o partido dos unitários e os federalistas que lutavam pela separação de Buenos Aires das demais províncias argentinas.
Rosas auxiliou o governador de Buenos Aires, Manuel Dorrego, a sufocar uma revolta em 1820. Em consequência, foi nomeado coronel de cavalaria e, mais tarde, comandante geral de campanha.
Em 1828, quando Dorrego foi deposto e executado pelos unitários, Rosas fez oposição ao novo governador, Juan Lavalle e, organizou um levantamento popular que saiu vitorioso.
Em 1831, depois de capturar o general unitário, José Maria Paz, a Liga Unitária do Interior foi derrotada. A Argentina voltou a ser unificada e passou a ser também controlada pelos federalistas, Estanislau Lópes e Facundo Quiroga.
Entre 1828 e 1832, Rosas exerceu o poder como governador de Buenos Aires, porém renunciou ao cargo por não lhe ser outorgado os poderes absolutos que desejava. Delegou o cargo a Juan Ramón Balcarce, homem de sua confiança.
Juan Manuel Rosas continuou dominando a situação como comandante e chefe do exército. Em 1835, participou de uma conspiração que derrubou Balcarce e reassumiu o governo da província, agora com plenos poderes.