Den nya åtgärden kan leda till förseningar på upp till tre år innan nya läkemedel görs tillgängliga för att ge NHS chefer chansen att försöka omförhandla priset med läkemedelsföretag.
Planen godkändes av National Institute for Health and Care Excellence mitt under det ökande trycket på NHS fonder.
Det kommer att införas från och med nästa månad.
NICEs verkställande direktör Sir Andrew Dillon sade att flytten var nödvändig med tanke på den "betydande ekonomiska utmaning som NHS står inför".
Patientgrupper och läkemedelsindustrin har redan invänt mot planen - ett samråd har pågått under de senaste tre månaderna.
För närvarande rekommenderas läkemedel som bedöms vara kostnadseffektiva av NICE automatiskt för användning i NHS.
När det händer har hälsovården 90 dagar på sig att börja erbjuda drogerna.
Men avgörande är att processen bara bedömer kostnaden kontra nyttan av läkemedlet på grundval av effekterna för en individ.
Det tar inte hänsyn till hur många människor som kan ta läkemedlet och därmed den totala kostnaden för NHS.
Enligt den nya planen kommer allmänt använda läkemedel och dyra men effektiva läkemedel som bryter mot tröskelvärdet på 20 miljoner pund per år att utsättas för en sekundär process.
NHS England, som drev på för förändringen, kommer att kunna stoppa 90-dagars deadline och börja samtala med läkemedelstillverkaren för att försöka få ner priset.
De kommer att kunna ansöka om en förlängning på upp till tre år. Då kommer NICE att se över vad som händer.
Under denna period kommer NICE att ha befogenhet att tillåta begränsad användning till patienter som bedöms vara mest behövande.
Flytten kommer när knarkräkningen ökar. Förra året spenderades 16,8 miljarder pund på droger av NHS, en ökning från 1 3 miljarder pund 2011.
Det finns oro för ett genombrott inom områden som demens kan sluta kostar NHS miljarder pund.
Förra året begränsade NHS chefer antalet patienter som kunde ges ett nytt läkemedel för hepatit C, för att hålla den årliga kostnaden på £ 200m.
De nya bestämmelserna kommer endast att tillämpas på nya läkemedel.
Information från branschen tyder på att om de hade varit på plats skulle de ha påverkat utvecklingen av läkemedel som Ezetimib, som används av 159 000 personer med hjärtsjukdomar, och Lucentis, som används av 1.200 personer med diabetes för att förhindra synförlust.
Förutom att införa taket har NICE också gått med på en snabb process för billigare läkemedel.
Ett nytt tak på 20 miljoner pund per år på kostnaden för nya läkemedel kommer att införas i NHS i England i ett försök att spara pengar, har hälsochefer meddelat.