Mediauppspelning stöds inte på den här enheten
Teamet slutade tvåa men den slutliga överlämningen mellan Daniel Talbot och Adam Gemili, 18, var inte klar i tid.
Gemili sade: " Jag kanske gick tidigt eller för hårt. Det är en besvikelse eftersom vi kunde ha varit i strid i finalen."
"Det såg ut som Gemili gick lite tidigt. Det kunde ha funnits en situation där Adam bara var så uppspelt och upphetsad av denna publik, detta ögonblick och denna möjlighet att han sprang lite snabbare än märket var gjort för."
Favoriter Jamaica vila Usain Bolt men fortfarande vann värme en, medan, i den andra, USA registrerade den snabbaste totala kvalifikationstiden.
Storbritannien, som vann denna händelse vid spelen 2004 i Aten, diskvalificerades i Peking för fyra år sedan och har nu gjort en röra av stafettpinnen förändringar i fem av de senaste sex stora mästerskapen.
Talbot sade: " Jag vet inte vad som hände. Jag kunde inte fånga Adam. Jag är verkligen utsliten och det är förödande."
Christian Malcolm, som styrde det första benet för Storbritannien, beskrev resultatet som "olyckligt". Han tillade: " Det är en av dessa saker som händer, men det är en fantastisk prestation att köra den tid vi gjorde. Daniel har kommit in i sista ögonblicket. Detta är en stor stadion och det kan vara överväldigande."
Storbritannien kommer att missa männens olympiska 4x100m reläfinal efter att ha diskvalificerats i sin semifinal.