Rapporten beställdes av Stormonts avdelning för social utveckling (DSD) och miljödepartementet (DoE).
DSD hade föreslagit ett "överkomligt bostadsbidrag" som skulle gälla för alla utvecklingar av fem bostäder eller fler.
Liknande system finns i övriga Storbritannien och Irland.
Avdelningarna beställde forskningen från Heriot Watt University och Three Dragons Consultancy.
Den drog slutsatsen att införandet av ett system "med en enda procentandel bostäder till överkomliga priser i Nordirland inte kommer att fungera under rådande marknadsförhållanden".
Kommissionen tillade att ett system skulle kunna övervägas för ett större Belfast, men att "det bästa är att överlåta till lokala beslutsfattare att fastställa mål, procentsats och form av tillhandahållande".
Detta tyder på att det skulle vara rådens beslut om huruvida ett system skall genomföras.
Ministern för social utveckling, Lord Morrow, sade: " Denna forskningsrapport kommer att ge ett värdefullt bidrag till vår evidensbas i denna fråga.
"Min avdelning, tillsammans med Miljödepartementet, kommer nu att reflektera över de resultat och rekommendationer som beskrivs i rapporten."
Ett system för att tvinga privata utvecklare att bidra till att bygga subventionerade bostäder är "inte realistiskt" för de flesta av Nordirland, har en rapport funnit.