Solo con l'uccisione di Maggioriano cominciò il definitivo declino, a causa della rivolta dell'esercito delle Gallie che portò alla formazione di uno stato secessionista in Gallia settentrionale, il Dominio di Soissons.
Privato dell'esercito delle Gallie, ed essendosi ridotti i territori gallici sotto il controllo del governo centrale alle sole Provenza e Alvernia, l'impero non fu più in grado di difendere queste province con il solo ricorso all'esercito d'Italia.
Nel 476 le armate sollevate da Odoacre contro il "magister militum" Flavio Oreste e l'ultimo imperatore in Italia, Romolo Augusto, erano costituite unicamente da alleati germanici, perlopiù Sciri ed Eruli.
Tuttavia l'assetto generale dell'esercito romano tardo-imperiale, e alcune sue unità, sopravvissero almeno fino al VI secolo in seno alla "Pars Orientis".