DR Kongo kunde bara dra 1-1 med sina rivaler i Kinshasa, efter att ha dragit det första benet av deras kval 0-0.
Det satte Kongo Brazzaville genom på away-goals regerande.
I andra chocker eliminerades även Sydafrika, Mali och Algeriet.
DR Congo hade ett enastående rekord i de fyra tidigare turneringarna för hemmabaserade fotbollsspelare med två titlar och två kvartsfinaler.
De förväntades slå Kongo Brazzaville framför sina hemmafans i Kinshasa och kvalificera sig för 2018 Championship i Kenya nästa januari och februari.
Jean-Marc Makusu Mundele satte titelinnehavarna framåt på 36 minuter bara för Jaures Ngombe att utjämna bara två minuter senare.
DR Kongo behövde minst ett mål till för att överleva, men Kongo försvarade modigt för att bara hålla ett andra framträdande på 16-laget turneringen.
Svårt utarmat Sydafrika innehöll Zambia för 79 minuter i Ndola innan conceding två mål på tre minuter för att förlora matchen 2-0 och slipsen 4-2 på aggregat.
Justin Shonga säckade en tandställning för Zambia mot en Sydafrika sida berövas många förstahandsspelare eftersom klubbar vägrade att släppa dem.
Mali, som förlorade 2016 års final mot DR Kongo i Kigali, var en annan chock som de fick en man skickad när de förlorade 1-0 hemma till Mauretanien.
Karamoko Traore gjorde på 38 minuter i Bamako och värdarna reducerades till 10 män före halvtid när Boubacar Samassekou visades det röda kortet med Mauretanien avancerar 3-2 på aggregerat.
Nigeria säkrade en biljett till Kenya genom att övervinna Benin 2-0 i Kano. Genom att följa 1-0 från första benet säkrade nigerianerna sin plats genom mål från Rabiu Ali och Kingsley Eduwo.
Elfenbenskusten, tredje bakom DR Kongo och Mali vid 2016 Nations Championship, gjorde sju minuter i stopptid för att Pip Niger för en plats vid nästa års finaler.
Sanfo Sylla gjorde det avgörande målet att ge ivorianerna en 1-0 seger och en bort mål seger efter slipsen slutade 2-2.
Angola missade ett straff i Luanda innan Dany gjorde det enda målet för slips strax förbi timmen för att orsaka en första förlust i 11 matcher på Madagaskar.
Rwanda iscensatte en modig comeback för att besegra Uganda 2-0 i Kigali men misslyckades 3-2 på aggregerat, med Kamerun och Sudan också bokning platser i Kenya.
På fredag slog Marocko och Libyen ut Egypten respektive Algeriet när de bokade sina platser i Kenya 2018.
Marocko slog Egypten 3-1 i Rabat på fredag för att vinna slipsen 4-2 totalt.
Libyen höll Algeriet till en 1-1 dragning i Sfax för att gå igenom till finalen med en 3-2 aggregerad seger.
Trots CHAN matcher endast med lokalt baserade fotbollsspelare spelen har full internationell status och räknas mot månatliga Fifa ranking.
Den afrikanska Nations Championship (CHAN) innehavare, Demokratiska republiken Kongo, misslyckades med att kvalificera sig för 2018 års final i Kenya efter en chock eliminering av Kongo Brazzaville.