HM Inspectorate of Probation fann förseningar i att få brottslingar att börja sitt arbete, och sade att alltför många släpptes ut om de inte deltog.
I ett fall hade en lagöverträdare bara avslutat 16 timmar under de 17 månader som gått sedan han dömdes.
Justitieministeriet sade att det handlade om rapportens rekommendationer.
Allt från 40 till 300 timmars oavlönat arbete - eller "samhällsåterbäring" - kan ges för brott som snatteri, stöld, narkotikabrott eller brottsliga skador.
Omkring 70.000 lagöverträdare beordrades att utföra oavlönat arbete som trädgårdsskötsel, utsmyckning eller kullplockning 2014.
Inspektörerna undersökte 100 fall och intervjuade 86 gärningsmän från olika övervakande avdelningar för deras rapport.
I rapporten beskrivs 15 rekommendationer till förbättringar.
Några av de problem som identifierades var:
För sju år sedan gjorde regeringen, som då leddes av Gordon Brown, en beställning på 10.000 orangelappar.
De skulle bäras av lagöverträdare som utförde obetalt arbete inom ramen för ett nytt varumärkessystem som kallas "gemenskapsåterbäring".
Det var avsett att ge allmänheten förtroende för att samhällsdomar, som inbegrep att röja gemensamma vägar och trädgårdar, plocka upp skräp och måla över graffiti, var ett "tufft" alternativ till fängelse.
När koalitionen kom till makten 2010 lovade den att göra oavlönat arbete mer fysiskt och intensivt, med arbetslösa brottslingar som krävs för att slutföra sina straff snabbare.
Svårigheten har alltid varit organisation. Att få människor som lever kaotiska liv - många av dem med alkohol- eller drogproblem - att arbeta i tid är en uppgift i sig.
Om sanktioner tillämpas kommer de att hamna i fängelse, annars kan straffet inte verkställas. Som inspektionsrapporten visar är det ett problem som myndigheterna fortfarande inte har löst.
Inspektörerna berömde exempel på arbete av hög kvalitet och fall där gärningsmännen trodde att de hade skaffat sig färdigheter genom att använda bra verktyg och utrustning.
De betonade också att många förbrytare såg sitt straff positivt och "var fast beslutna att... avstå från framtida överträdelser".
Bland dess rekommendationer var att samhällsrehabiliteringsföretag ska minska hur ofta gärningsmän blir avvisade från arbete när de har rapporterat i tid, och försöka skapa mål för obetalt arbete som "motsvarar gärningsmannens omständigheter".
Chefsinspektören för skyddstillsynen, Paul Wilson, sade att det i de flesta fall visade sig att obetalt arbete helt enkelt betraktades som ett straff, vilket var en "slösad möjlighet".
"Även om vi hittade en del hög kvalitet ledning och leverans, mycket av det var helt enkelt inte bra nog, saknar fokus på det grundläggande kravet att leverera och verkställa domen av domstolen."
Han efterlyste "brådskande åtgärder".
En talesman för justitieministeriet sade att det ville ha "mycket effektivare rehabilitering" - som måste börja med att se till att gärningsmännen dök upp i tid och fick konsekvenser om de inte gjorde det.
"Det är helt oacceptabelt för gärningsmän att hoppa över arbete som verkställts av domstolarna.
"Vi accepterar alla rekommendationer till justitieministeriet i denna rapport och vidtar redan åtgärder för att genomföra dem."
Det sätt på vilket brottslingar som dömts till obetalt samhällsarbete i England och Wales hanteras och övervakas har kritiserats av inspektörer.