Arvind Kejriwal och medlemmar av hans kabinett tillbringade natten i det öppna i huvudstadens hjärta och utför nu dagliga affärer på vägen.
Polisen sammandrabbade med demonstranter som samlades för att delta på tisdagen.
Hans antikorruption Aam Aadmi Party orsakade en chock med dess starka resultat i den senaste tidens statsval.
Från Soutik BiswasIndien korrespondent
Indiens Arvind Kejriwals "anarkiska" politik
Korrespondenterna säger att hans handlingar har splittrat allmänheten med vissa hyllar detta som en ny form av demokrati och offentlig protest, men andra uppmanar honom att lämna gatorna för att styra som han valdes att göra.
Skirmischer har rapporterats som hundratals poliser spärrade av platsen för hans demonstration och placerade vattenkanoner på vägen.
Trafiken har kastats i kaos och åtminstone fyra tunnelbanestationer har stängts.
"Sedan igår har ingen mat eller vatten tillåtits komma in på protestplatsen. Vilket budskap vill centralregeringen förmedla? Många människor vill komma men de stoppas genom barrikader," Mr Kejriwal berättade reportrar.
Genom Sanjoy MajumderBBC News i Delhi
Alla vägar som leder till platsen för Arvind Kejriwals protest är barrikaderade med hundratals poliser som håller demonstranterna i schack.
Aam Aadmi-partiets anhängare är karakteristiska i sina vita mössor. Bortom barrikaderna, omringad av poliser, sitter Delhis chefsminister och hans kabinett i protest, bara av parlamentet och federala regeringsbyggnader.
Avskärmad från kylan och regnet av supportrar tar han sig tid att tala med media, underteckna regeringsfiler och presidera över ett kabinettsmöte. Säkerheten är extra hård eftersom Indiens årliga Republic Day parad är bara dagar bort.
Årsdagen visar Indiens militära makt - även nu soldater i ceremoniella uniformer går genom sina steg bara en kort bit bort.
Spänningen stiger eftersom gatorna runt platsen måste rensas av säkerhetsskäl före paraden. Men för närvarande är de fulla av demonstranter som inte visar några tecken på att lämna landet.
"Polisen [är] att bära människor selektivt in till bussen och slå dem. Kallas detta demokrati?"
Trots detta fortsätter Kejriwal och hans ministrar att sköta de dagliga administrativa ärendena på gatorna.
Kejriwal tog rodret som Delhis chefsminister förra månaden på en biljett för att bekämpa korruption och föra politik på ett annat sätt och kallade sitt parti en "ny kvast".
Men han blev snabbt invecklad i en rad över polisen efter en av hans ministrar anklagade officerare för att misslyckas med att slå ner på en påstådd narkotika och prostitution ring - polisen förnekar dessa påståenden.
Delhis poliskår drivs av den federala regeringen och impramptu-protesten inleddes i måndags när Kejriwal hindrades från att gå till hemministerns kontor för att kräva avstängning av flera officerare.
Det började med en incident som hotade att bli en diplomatisk fråga, att kasta Aam Aadmi-partiet, polisen och medlemmar av Delhis afrikanska samhälle i loggerheads.
I onsdags konfronterade Kejriwals advokatminister, Somnath Bharti, och olika partianhängare enligt uppgift fyra ugandiska kvinnor i ett Delhi-område som anklagade dem för prostitution.
En rad bröt ut när polisen vägrade att söka igenom ett hus i närheten efter bevis på en misstänkt narkotika - och prostitutionsring, eftersom de inte hade någon husrannsakan.
Bharti och Aam Aadmi-partiets anhängare anklagades för att hota och skrämma kvinnorna, tvinga sig in i hemmen och göra rasistiska anmärkningar - de förnekar dessa anklagelser.
Indisk inrikesminister Sushil Kumar Shinde säger att en rättslig undersökning av polisens roll har beordrats och Kejriwal "bör vänta på resultatet" innan han protesterar.
Men Kejriwal säger att hans protest omfattar fler klagomål än bara det fallet.
Hans parti har också fördömt polisen för deras hantering av andra fall, såsom den nyligen påstådda gängvåldtäkten av en dansk kvinna i Delhi och fallet med en kvinna som enligt uppgift dödades över ett krav på hemgift av sina svärföräldrar.
Delhis chefsminister har lovat att trappa upp sin så gott som aldrig tidigare skådade gatuprotest mitt i en rad om vem som kontrollerar stadens poliskår.