Det sades att en dom i högsta domstolen 2014 som utvidgade definitionen av vem som var föremål för Deprivation of Liberty Protections hade lett till en ökning av antalet mål.
Tjänsterna klarar inte av det, tidsfristerna har "vanligtvis brutits" och systemet bör bytas ut och organet rapporteras.
Regeringen beställde rapporten och sa att den skulle se över lagen.
Lagkommissionen, ett oberoende organ som granskar lagarna i England och Wales, gav flera rekommendationer för att förbättra systemet.
Detta innebar bland annat att alla beslutsfattare måste lägga större vikt vid personens önskemål och känslor när de fattar beslut enligt lagen om mental kapacitet.
När en sårbar person - som vanligen lider av svåra inlärningssvårigheter eller demens - på ett vårdhem eller sjukhus har begränsningar för vad de kan göra eller var de kan gå för sin egen säkerhet, måste institutionen ansöka hos kommunen för att tillåta frihetsberövande.
frihetsberövandet (DoLS) bör säkerställa att ett vårdhem, sjukhus eller understödda boendearrangemang endast berövar någon deras frihet på ett säkert och korrekt sätt, och att detta endast görs när det är i personens bästa intresse och det inte finns något annat sätt att ta hand om dem.
Systemet, enligt lagen om mental kapacitet, kräver att vårdarrangemangen kontrolleras självständigt.
Ett viktigt utslag från högsta domstolen 2014 - även kallat Cheshire West-beslutet - utvidgade definitionen av vem som omfattades av Deprivation of Liberty Protections (DoLS).
Detta utlöste en ökning av antalet fall, som kommissionen sade har gjort hälso- och sjukvårdstjänster "oförmögna att klara av".
Officiella siffror visar att sjukhus och vårdhem i England gjorde 195 840 Dols ansökningar 2015-16 - mer än 14 gånger de 13 700 2013-14.
Kommissionen sade att den ökade arbetsbördan hade resulterat i ett ökande antal remisser från Dols som inte bedömdes och att de lagstadgade tidsramarna "regelbundet bröts".
I England, av de 195,840 Dols remisser under 2015-16, var bara 43% avslutade under året, sade kommissionen.
Av dessa slutfördes endast 29 % inom den tidsfrist på 21 dagar som fastställs i förordningarna.
Det drabbar utsatta personer med demens och inlärningssvårigheter och deras familjer.
I lagkommissionens rapport gavs exempel på fall där det nuvarande systemet inte fungerade.
Steven Neary, en ung man med autism och inlärningssvårigheter, bodde med sin far, som i december 2009 rapporterade att han hade svårt att klara sig.
Den lokala myndigheten ordnade så att Steven kunde bo i en stödenhet och hans far gick med på en förlängd vistelse på ett par veckor.
Men Steven fängslades där av den lokala myndigheten i ett år, inklusive en period då han var föremål för Dols-regimen, och skyddsdomstolen slog fast att Steven hade blivit olagligt frihetsberövad.
Domstolen konstaterade att de lokala myndigheterna inte på rätt sätt diskuterade sina bekymmer eller planer med Stevens far.
Lagkommissionen kräver att det nuvarande systemet ska skrotas och ersättas "på en gång".
Lagkommissionär Nicolas Paines QC sa att Deprivation of Liberty Protections var utformade vid en tidpunkt då färre människor ansågs berövas sin frihet och nu var det "falska" människor som det inrättades för att skydda.
"Det är inte rätt att personer med demens och inlärningssvårigheter nekas sina friheter olagligt", sade hon.
"Det finns onödiga kostnader och eftersläpningar vid varje tur, och alltför ofta lämnas familjemedlemmar utan det stöd de behöver."
Kommissionen vill ersätta lagen med ett nytt system som kallas Liberty Protection Protections. Dess rekommendationer är bland annat följande:
En talesman för hälsovårdsdepartementet sade att det var "förpliktat" att skydda utsatta människors rättigheter, vilket är anledningen till att det beställde översynen.
"Vi tackar lagkommissionen för dess detaljerade arbete och kommer att svara på dessa konstruktiva rekommendationer i sinom tid."
Hälsodepartementet sade att det gav 25 miljoner pund extra finansiering för 2015/16 till lokala myndigheter för att stödja dem i hanteringen av ökningen av Dols ansökningar.
Personer med demens och inlärningssvårigheter hålls i förvar utan kontroller på grund av en "falskad" lag, har lagkommissionen sagt.