En domare vid High Court i London dömde till förmån för miljöadvokaterna ClientEarth.
Gruppen kallade luftföroreningar en "folkhälsokris" och sade att regeringen har misslyckats med att ta itu med den.
Domen i domstolsprövningen kallade regeringens plan "beklagligt otillräcklig".
Department for Environment, Food and Rural Affairs (Defra) berättade för BBC att den godtog domstolens dom.
ClientEarth vann ett separat domslut mot regeringen i april 2015.
Enligt den domen skulle ministrarna lägga fram en plan för att så snart som möjligt minska luftföroreningarna inom de rättsliga gränserna.
Men ClientEarth var missnöjd med dessa förslag, och tog regeringen till High Court i en rättslig prövning.
I domen på onsdag förmiddag, Mr Justice Garnham sade 2015 Air Quality Plan (AQP), utformad när Liz Truss MP var miljösekreterare, misslyckades med att följa Högsta domstolens dom och EU-direktiv.
Dessutom, domen sade regeringen hade fel i lag genom att fastställa efterlevnadsdatum baserat på överoptimistisk modellering av föroreningsnivåer.
"Det förefaller mig som om när planen infördes hade de antaganden som låg till grund för statssekreterarens bedömning av omfattningen av den troliga framtida bristande efterlevnaden redan visat sig vara påtagligt optimistiska", sade justitie Garnham.
Han sade att statssekreteraren "felade" genom att fastställa ett beräknat uppfyllandedatum 2020 (och 2025 för London).
I synnerhet uppmärksammade han kostnadskonsekvenserna av att införa zoner med ren luft senast 2020.
"Bevisen visar tydligt att Clean Air Zones, den åtgärd som identifieras i planen som det främsta sättet att minska kvävedioxidutsläpp, skulle kunna införas snabbare än 2020," Mr Justice Garnham sade.
Han fortsatte: "Jag har också sett ett dokument med frågor till Defra från HM Treasury daterad 18 augusti 2015; en fråga frågar varför de pengar som krävs 'behov att spenderas över två år?'
"Det svar som ges är "spend behöver inte vara över två år, nio år är mer realistiskt med tanke på att London inte behöver uppfylla kraven förrän 2025."
En rad studier och rapporter nyligen har kopplat luftföroreningar till hjärtsjukdomar och lungproblem, däribland astma.
I februari sade Royal Colleges of Physicians and of Pediats and Child Health att luftföroreningar utomhus bidrog till omkring 40 000 tidiga dödsfall varje år i Storbritannien.
ClientEarths verkställande direktör James Thornton sade: " Detta är en akut folkhälsokris som premiärministern måste ta personlig kontroll över.
"Jag utmanar Theresa May att vidta omedelbara åtgärder nu för att ta itu med olagliga nivåer av föroreningar och förhindra tiotusentals ytterligare tidiga dödsfall i Storbritannien. Högsta domstolen har fastställt att mer brådskande åtgärder måste vidtas."
En talesperson för Defra sade att dess planer alltid hade följt de bästa tillgängliga bevisen och tillade: "Största vår enorma investering i gröna transportinitiativ och planer på att införa rena luftzoner runt om i landet kommer att bidra till att ta itu med detta problem, vi accepterar domstolens dom.
"Vi kommer nu att noggrant överväga denna dom, och våra nästa steg, i detalj."
Londons borgmästare, Sadiq Khan, sade: " Dagens dom i Högsta domstolen sätter i skarp fokus omfattningen av landets luftföroreningar kris och lägger skulden på regeringen för dess självbelåtenhet att misslyckas med att ta itu med problemet snabbt och trovärdigt.
"På så sätt har de svikit miljontals människor hela landet."
Följ Paul på Twitter.
Kampanjdeltagarna har vunnit den senaste kampen i rättsliga åtgärder mot den brittiska regeringen om luftföroreningsnivåerna.