The Times Educational Supplement (TES) säger att åtgärder för att skydda mot gradinflation inte var lämpliga för årets engelska prov.
Undervisande fackföreningar har anklagat Ofqual för "regulatoriskt misslyckande" och säger att det är mer bevis på bristfälliga examen märkning.
Men tillsynsmyndigheten insisterar på att den tillämpade sina åtgärder på rätt sätt.
Det kommer som stats- och privatskolechefer kräver en oberoende undersökning av problemen.
Förra veckan Ofqual sa att det kändes som årets engelska GCSE-prov var rättvist, trots att betygsgränserna flyttades betydligt deltid genom året.
Lärare har klagat på att elever som uppnår exakt samma betyg skulle ha fått olika betyg beroende på vilken tid på året de gjorde provet.
Och många som förutspåddes ett betyg C, fick ett betyg D i sina sommarprov.
Ofqual fann att Junis betygsgränser var korrekta, medan Januaris var "för mild".
Ett nyckeldokument som skickas till examensnämnder, som finns på Ofqual webbplats, anger hur man förväntar sig examensnämnder att använda en process som kallas "jämförbara resultat" för att säkerställa att betygsstandarder upprätthålls mellan GCSEs år från år.
Den fastställer fem villkor för när sådana processer ska användas för att ändra det sätt på vilket papper är märkta.
Enligt TES-rapporten uppfyllde årets engelska GCSE och omständigheterna kring den inte fyra av villkoren.
Den första av Ofquals fem villkor var att kohorten - eller elever från det året - i ett ämne "måste vara liknande, i termer av förmåga, som tidigare år".
Men förra veckans rapport om engelska GCSE noterade att "uppnåelseprofilen" för 2012 föll, eftersom grammatik och oberoende skolelever ersattes med extra, mindre omfattande elever.
Det andra villkoret var att kvalificeringen måste vara "lämplig för ändamålet".
På måndagen berättade utbildningsminister Michael Gove för parlamentet att årets engelska GCSE inte var "lämpligt för ändamål".
Det tredje villkoret var att "kvalifikationens art" måste vara densamma.
I förra veckans rapport uppgavs att "dessa kvalifikationer skiljer sig från tidigare engelska kvalifikationer på flera olika sätt".
Slutligen sade tillsynsmyndigheten i skrivelsen att jämförbara resultat endast får tillämpas om "tidigare betyg är lämpliga".
Ofquals rapport säger att de engelska GCSE betyg i januari var "för generös".
Det enda villkoret som tycks ha uppfyllts är att undervisningsstandarderna i stort sett har förblivit konsekventa.
Riktlinjerna säger också: "Studenter bör inte gynnas eller missgynnas bara för att de var de första att sitta en ny uppsättning av examinationer."
Vakthunden har tolkat sina egna villkor annorlunda, och insisterar på att jämförbara utfall som förhindrade betyg från att stiga i juni genomfördes korrekt.
Men Russell Hobby, generalsekreterare i Naht-huvudfacket, sade: " Ojämnhet tycks inte ha tillämpat begreppet jämförbara resultat på rätt sätt.
"I detta fall finns det ett regelfel. Det är en stor röra."
Och Brian Lightman, generalsekreterare för Association of School and College Leaders (ASCL) sade att detta verkade vara "ett annat bevis på att förfaranden som tillämpas på denna examen inte var lämpligt för ändamål".
Under tiden sade Ofqual: " Det jämförbara resultatet användes korrekt för GCSE engelska i år och vi står fast vid detta beslut.
"Jämförbara resultat är inte avsedda att ge identiska resultat år efter år.
– Det viktiga är att resultaten kan jämföras när man tar hänsyn till en rad faktorer som kan påverka resultaten. Mer information om användningen av detta tillvägagångssätt finns i vår rapport."
Men dr Christopher Ray, ordförande för huvudmästar- och rektorskonferensen (HMC), sade att frågan var ett bevis på ett djupare problem med Ofqual.
"Domen i Ofquals första rapport och resonemanget för att stödja den är långt ifrån att besvara de frågor som ställs i skolornas och elevernas sinnen."
Skuggundervisningssekreterare Stephen Twigg sade: " Det är tydligt att elever, föräldrar och yrkesverksamma inom utbildning, över hela skalan av skolor, anser att eleverna har gjort en otjänst.
"Whilst utbildningsministern Michael Gove säger att han är'sadned' av den orättvisa som har tjänats till tusentals elever, han visar hur out-of-touch han är med elev åsikt genom att vägra att vidta åtgärder. Arbetarna stöder kravet på en oberoende utredning för att komma till botten med denna röra."
Commons Education Committee kommer att inleda en undersökning av GCSE:s klassificeringsproblem nästa vecka.
England examen regulator Ofqual bröt mot sina egna regler genom att tillåta kontroversiella förändringar av hur engelska GCSEs graderades i sommar, det påstås.