I Jemens huvudstad Sanaa, där hotet om angrepp anses vara störst, har Storbritannien, Frankrike och Tyskland också stängt sina ambassader.
Den brittiska ambassaden har tömts helt, med all kvarvarande brittisk personal som lämnar landet på tisdag, medan den amerikanska flygvapnet flög ut amerikansk personal.
Vad är det då med al-Qaidas gren i Jemen som utlöser sådana varningsklockor i Washington?
Al-Qaida på Arabiska halvön (AQAP), al-Qaidas gren i Jemen, är inte det största avhoppet från den framlidne Usama Bin Ladins organisation, och det är inte heller nödvändigtvis den mest aktiva - det finns andra, noisier jihadistiska celler som spritts över Syrien och Irak, som nästan dagligen är inblandade i konflikter med muslimer.
Men Washington anser att AQAP är den överlägset farligaste för väst eftersom den har både teknisk kompetens och global räckvidd.
Dessutom är den lojal mot den nominella al-Qaida-ledaren, Ayman al-Zawahiri, och vad som återstår av gruppens huvudledarskap som gömmer sig i Pakistan.
För väst, AQAP presenterar tre faror:
AQAP har form. I augusti 2009 byggde den saudiske bombmakaren Ibrahim al-Asiri en sprängladdning som var så svår att upptäcka att den antingen var hoppackad bredvid bärarens ljumske eller kanske till och med dold inuti hans kropp.
Han skickade sedan sin bror Abdullah, en villig frivillig, som en mänsklig bomb för att spränga den saudiske prinsen med ansvar för kampen mot terrorism. Han lyckades nästan.
Abdullah al-Asiri låtsades att han ville ge upp och lurade saudisk säkerhet att låta honom komma precis intill prins Mohammed Bin Nayef innan apparaten detonerade, möjligen på distans via mobiltelefon.
Explosionen sprängde bombaren på mitten, men med den största sprängkraften riktad nedåt, hade prinsen en mirakulös flykt med bara en skadad hand. AQAP skröt om att det skulle försöka igen och det gjorde det.
I december 2009 uppfann Ibrahim al-Asiri en annan anordning för att sätta på en frivillig, denna gång en ung nigerian som hette Omar Farouk Abdulmutallab.
Han kunde flyga hela vägen från Europa till Detroit med en livsduglig sprängladdning gömd i sina kalsonger, ett massivt fel på intelligens och säkerhet.
Men när han försökte tända den när planet närmade sig Detroits flygplats, blev han upptäckt, överväldigad, arresterad och dömd för att ha försökt använda ett massförstörelsevapen.
När västerländska underrättelsechefer rusade för att bedöma denna nya utveckling, beslutade den brittiska regeringen att höja den brittiska nationella terrorhotsnivån till "kritisk", dess högsta någonsin. (Den har sedan dess sjunkit ner till "väsentlig", den tredje högsta av fem.)
Nästa år, 2010, AQAP försökte igen, smuggla bomber på lastrum av flygplan gömda inuti skrivar bläck toner patroner.
Den avsedda destinationen var Amerika och en enhet kom så långt som till den brittiska flygplatsen East Midlands. Tomten omintetgjordes i sista minuten av ett tips från en saudiarabisk informatör inom AQAP, men gruppen har lovat att fortsätta att försöka.
Sedan dess har AQAP: s ledare varit under ständig attack från obemannade amerikanska Reaper drönare eller UAVs, förlorar flera toppagenter, inklusive deras vice ledare, Saeed al-Shihri, och de inflytelserika engelsktalande propagandisterna Anwar al-Awlaki och Samir Khan.
Enligt den amerikanska tankesmedjan New America Foundation har amerikanska drönarattacker i Jemen skjutit i höjden, från 18 år 2011 till 53 år 2012.
En drönarattack i tisdags lär ha drabbat en bil med fyra al-Qaida-agenter.
I Jemen är amerikanska drönare djupt impopulära, ibland träffar fel mål och utplånar hela längre familjer.
Grupper för mänskliga rättigheter har stämplat dem som en form av utomrättsligt dödande. Lokala stammar betraktar dem också som ett kränkande brott mot den nationella suveräniteten.
Men amerikanska och jemenitiska tjänstemän hävdar att i de vildare, mer avlägsna delarna av landet, inklusive Shabwa, Marib och Abian provinser, som siktar från luften baserat på tipp-offs på marken är deras enda sätt att stoppa dem som planerar nya attacker.
Oavsett hur de amerikanska tjuvlyssnarna kom fram hörde de två ledande al-Qaida-ledare som diskuterade så chockade det amerikanska underrättelsesamhället så mycket att Washington stängde 19 av sina diplomatiska uppdrag runt Mellanöstern, Asien och Afrika.