Omkring 70 personer skadades och många är rädda för att bli instängda under sjuvåningsblocket i Thane efter incidenten på torsdag kväll.
Byggnationen pågick trots att fyra våningar redan var upptagna. Ett sökande efter överlevande fortsätter.
Byggkollapser är vanliga med dåliga byggmetoder som ofta skylls på.
Av Sameer HashmiMumbai affärsreporter
Byggnadskollapsen understryker frågan om illegalt byggande i Indien.
Polisen säger att byggherren av den höga höjningen använt undermåligt byggnadsmaterial och inte hade ett yrkescertifikat.
Det finns hundratals liknande olagliga höghus i Mumbai-regionen. På grund av en hög befolkningstillväxt finns det alltid efterfrågan på billiga bostäder. Och bostäder i illegala byggnader säljer till ett lägre pris än bostäder i lagliga byggnader.
Aktivister hävdar också att skrupelfria byggare ofta betalar rejäla mutor till myndigheter som blundar för dessa olagliga strukturer och inte vidtar några åtgärder mot byggare.
Myndigheterna säger nu att de söker efter de tjänstemän som övervakade byggnadsarbetet.
BBC: s Sameer Hashmi, som är på platsen för händelsen, säger räddningsarbetare fortfarande försöker rensa skräpet.
De flesta människor som bor i byggnaden kommer från låg-till-medelinkomstgrupperna, tillägger vår korrespondent.
Vittnena säger att byggandet av byggnaden började för bara sex veckor sedan, och på den tiden byggdes sju våningar snabbt och den åttonde våningen var under uppförande.
Även om byggandet var ofullständigt, hade byggnadsarbetarna låtit familjer flytta in, tillägger vår korrespondent.
På torsdagskvällen kollapsade en del av byggnaden, och hela byggnaden sänktes, sade polisen.
Räddningsinsatserna fortsatte hela natten och dussintals har skadats.
Det är ännu inte klart vad som orsakade kollapsen, men polisinspektör Digamber Jangale berättade för BBC att det verkade bero på användningen av undermåligt byggnadsmaterial.
Polisen sa att ett fall hade registrerats och att en utredning hade påbörjats och att de sökte efter byggherrarna för att arrestera dem.
Ett vittne, som bara kallades Ramlal, sade att byggnaden verkade luta innan den snabbt kollapsade.
"Byggnaden kollapsade som ett paket kort inom tre till fyra sekunder", sade han.
I bilder: Mumbai byggnaden kollapsar
Skolflickan Hasina Shaikh, som hade bott med sin familj på femte våningen, sade att hon hade tur som fortfarande levde.
"Jag hade just återvänt från skolan och höll på att förändras när byggnaden började skaka och kom ner på oss", berättade hon Mumbais DNA tidning.
"När jag återfått medvetandet senare, var jag på sjukhuset."
I andra händelser på senare tid
Minst 45 personer har dött, däribland 15 barn, efter att en byggnad som byggts olagligt kollapsat nära den indiska staden Mumbai, säger polisen.