Mediauppspelning stöds inte på den här enheten
Den 34-årige, som vann 10 000 miljoner guld för åtta dagar sedan, översvämmades av sina rivaler i sista varvet och Etiopiens Muktar Edris bröt klart för att vinna guld.
Storbritanniens Farah sparkade igen för att ta silver på London Stadium i hans sista stora spår mästerskap.
Storbritanniens män vann en fantastisk 4x100m relä guld när kvinnorna tog silver.
"Det har varit en lång resa men det har varit otroligt," Farah berättade BBC Sport.
"Det slog inte riktigt hem förrän efter att jag gått över gränsen och hade ett par ögonblick för mig själv när jag insåg - detta är det.
"Jag gav allt - jag hade inte en enda bit kvar i slutet."
Fyrfaldig olympisk mästare Farah kommer att avsluta sin bana karriär med en rekord av 10 guld och två silver i stora mästerskap.
Han är inställd på att fokusera på maraton efter sitt sista spår framträdande på 5000m Diamond League finalen i Zürich den 24 augusti.
Guld och silver i de två 4x100m reläerna tar Storbritanniens medalj i London 2017 till fyra - Farah levererar de andra två - men värdarna är fortfarande två under UK Sports mål på sex till åtta.
Edris, 23 år, körde en utmärkt dömd final 600 meter för att göra anspråk på sin första stora titel med en sprintfinish som påminner om så många av Farahs triumfer.
Efter ett kort utbrott från Farahs landsman Andrew Butchart vid fronten av loppet, flyttade den etiopiska trion Edris, Yomif Kejelcha och Selemon Barega upp till box i hemmets favorit.
Barega föll tillbaka men Edris använde Kejelcha som en pace-setter in i hemmet direkt innan han rusade iväg medan Farah kämpade för positionen med den revolterande Paul Chelimo bakom.
Farah hittade till slut öppet spår men Edris var borta, med Briton passerar den bleknande Kejelcha och håller av Chelimo för att rädda silver.
"The 10 000m tog mycket mer ur mig än jag insåg", sade Farah.
"Jag försökte täcka varje drag men de hade en plan - en av dem skulle offra sig själv och det var vad de gjorde och den bättre mannen vann."
Farah har nu förlorat bara två av sina 22 5000m tävlingar sedan 2011.
"Jag var mycket förberedd för detta lopp och jag visste att jag skulle slå Mo Farah", sade Edris, som vann på en tid av 13 minuter 32.79 sekunder för att göra anspråk på sin första seger över Briton i fem försök.
"Jag är den nya mästare för Etiopien, det är därför jag gjorde 'Mobot' [Farahs traditionella firande] - Jag är nästa mästare."
1976 Olympic 10.000m bronsmedaljör och BBC kommentator Brendan Foster: "Vi sa att trötthet skulle få honom. Det måste få ett slut. Han hatar att förlora."
BBC atleticsexperten Allison Curbishley: "I mitt huvud och mitt hjärta trodde jag inte att någon verkligen kunde slå Mo Farah men att 10 000m i början av veckan tog så mycket ur honom. Edris, vi tar av oss hatten till dig. Den här mannen har slagit legenden som är Mo Farah på sin egen bakgård."
2005 maraton världsmästare Paul Radcliffe: "Han bara inte har takten i benen längre för att kunna leva med utmanare som det men detta är inte slutet på Mo Farah i friidrott. Han har en ny utmaning framför sig i maraton."
Tvåfaldig olympiska dekadlon mästare Daley Thompson: "Han måste vara skadad. Men det måste ta slut för alla. Om ett par veckor eller månader kommer han att se tillbaka och säga, "det var fantastiskt".
2004 Olympic 4x100m relä mästare Darren Campbell: "Det finns idrottare där ute som har vunnit fler medaljer, men kvaliteten på dessa medaljer och för Mo att ha lett en händelse på egen hand... wow. Jag vet inte hur du inte kan se honom som vår bästa idrottare någonsin."
Mediauppspelning stöds inte på den här enheten
En disconsolate Farah föll till banan när Edris härmade hans berömda firande, innan slutligen plocka upp sig själv för att slutföra ett avsked varv.
Farah har varit föremål för granskning under de senaste åren, med sin tränare Alberto Salazar under utredning av den amerikanska antidopningsbyrån.
Den Briton också nyligen förnekat någon förseelse efter datorhackers avslöjade några av hans blodprov hade initialt flaggas som misstänksam, innan senare förklaras normalt.
Efter första chock på resultatet, folkmassan fann sin röst för att ge Farah en sista varm avsked på stadion han tände upp med dubbla olympiska guld 2012.
"Tillbaka 2008 vid OS var jag så besviken [på att inte göra 5000m finalen] och jag visste inte vad jag skulle göra med mig själv, om jag skulle fortsätta med sporten", sade Farah.
"Jag var tvungen att bestämma vad som krävdes för att bli mästare och det var att flytta till andra sidan världen - ingenting garanterades men jag tog den chansen.
"Den här London publiken är fantastisk - det finns ingen plats som hemma.
"Jag har några fler lopp på banan, sedan ska jag ta en kort paus och sedan detta kapitel i mitt liv är stängd."
På andra håll slutade Britons Katarina Johnson-Thompson och Morgan Lake femte respektive sjätte i det höga hoppet när Maria Lasitskene - den ryska tävlande som neutral idrottsman - vann guld med ett språng på 2,03 meter.
Och Ashley Bryant slutade 11th i mäns dekadlon, med Kevin Mayer blir den första franska världsmästaren i evenemanget.
Mediauppspelning stöds inte på den här enheten
Mo Farah missade en femte större mästerskapsavstånd dubbel i rad när han slutade tvåa i 5000m vid World Athletics Championships.