Однак спроба виявилась невдалою: у 9 році до н. е. римське військо зазнало нищівної поразки від об'єднаних германських племен, очолюваних вождем племені херусків Армінієм. На момент написання Тацитом своєї праці «Германія», німецькі племена мешкали уздовж Рейну і Дунаю, займаючи більшу частину сучасної Німеччини. Певні регіони все-таки потрапили під владу Риму, на них було утворено провінції Белгіка, Галлія, Верхня й Нижня Германія, Реція та Норік. Засновані римлянами міста, зокрема Аугсбург, Кельн, Майнц, Трір, в подальшій історії стали важливими політичними та економічними центрами.