Jean Say dödade sin son och dotter för två år sen.
Den oberoende polisklagomål kommissionen (IPCC) sade Southwark Sapphire enhet i södra London "uppmuntrade" offer för att dra tillbaka anklagelser för att öka upptäckten.
Metropolitanpolisen sa att stora förändringar hade gjorts.
Våldtäktsanklagelsen mot Say avvisades av en kriminalinspektör baserad på Southwark, som sade att omständigheterna inte utgjorde våldtäkt eftersom kvinnan "överenskommet".
I IPCC:s rapport sades det: "Det råder inget tvivel om att kvinnan gjorde en anklagelse om våldtäkt på Walworths polisstation som borde ha trotts och grundligt utretts."
IPCC sa att Southwark Sapphire-truppens strategi att "tacka för att tro på offer" var "helt olämpligt".  Den sade också att den var "underpresterande och översträngd".
Vice ordförande för IPCC Deborah Glass sade: " Det råder ingen tvekan om att detta var en oerhört allvarlig, chockerande händelse.
"Vi vet med alla de fall som vi har behandlat att konsekvenserna av att inte ta itu med anklagelser om våldtäkt kan vara extremt allvarliga.
"Detta är ännu en tragisk illustration av detta."
62, en pensionerad portvakt, attackerade hans dotter Regina, åtta, och son Rolls, 10, i sina sängar i hans hem i Southwark 2011, medan de var på ett helgbesök.
Den gamle Bailey hörde att han dödade dem för att trotsa sin fru som hade lämnat honom. Han fick en minimitid på 30 år.
Ärendet ledde till en mer omfattande undersökning av enhetens arbete mellan juli 2008 och september 2009, vars resultat nu har offentliggjorts.
IPCC har genomfört fem tidigare undersökningar av Southwark Sapphire-kommandot och det är polisens vakthunds nionde utredning av Mets svar på offer för sexuellt våld.
Från Danny ShawHome Affairs korrespondent, BBC News
Ingen får veta om Jean Says barn skulle vara vid liv idag om han hade gripits och utretts för våldtäkt tre år innan han knivhögg dem till döds.
Men om polisen inte hade "ingen brottslighet" våldtäktsanklagelsen, är chanserna att Says hotande och våldsamma beteende skulle ha avslöjats.
Fallet Say är det mest eggande exemplet på det dysfunktionella förhållningssättet till våldtäktsutredningar vid Southwark Sapphire-enheten; vad vi inte vet är hur många andra sexuella övergreppsoffer som felaktigt förnekades och den påverkan som har haft på dem och på andra.
Även om Scotland Yard säger att Sapphire-enheterna har förändrats till det bättre, så är det fortfarande ett problem för andra krafter: i England och Wales är det tre gånger så troligt att våldtäkter avskrivs som andra incidenter.
Inrikeskorrespondenten Danny Shaw sa att tre polismän i Metropolitan som hade ställts inför en eventuell uppsägning över en tidigare fördömd utredning av den serieförbrytaren Kirk Reid fortfarande var med i polisen.
Två av dem, en överintendent och en kriminalinspektör, har blivit befordrade.
En inspektör står inför disciplinära förfaranden för påstådd grov förseelse i samband med anklagelserna.
I ett annat fall, Det Con Ryan Coleman-Farrow, som var baserad i Southwark, var fängslad i 16 månader i oktober förra året för att ha underlåtit att utreda våldtäkt och sexuella övergrepp.
En annan officer, baserad i Islington i norra London, är fortfarande under brottsutredning.
Totalt 19 officerare från hela London har blivit disciplinerade, däribland tre som har avskedats.
En talesman för en Met - polis sade: " Vi har sedan en tid tillbaka erkänt att tidigare undersökningar av våldtäkter och allvarliga sexuella övergrepp i MPS var undermåliga.
"Den verksamhet som identifieras i denna rapport kom under denna era och belyser specifika frågor inom Southwark som resulterade i oacceptabla åtgärder av lokala officerare.
"Det är som ett resultat av sådana brister som vi har gjort betydande förändringar i utredningen av våldtäkt och allvarliga sexuella övergrepp, både när det gäller struktur och reviderade arbetsmetoder."
En polis vid en sexualbrottsenhet uppmuntrade en kvinna att dra tillbaka ett våldtäktsanspråk mot en man som fortsatte att mörda sina två barn, har det sagts i en rapport.