De beslagtog den regionala regeringens högkvarter och åklagarämbetet innan de öppnade eld med automatvapen vid polisstationen.
Interimspresident Olexander Turchynov kritiserade lokalpolisen för deras "overksamhet" och "brott".
USA anklagade Ryssland för att försöka "förändra säkerhetslandskapet" i Öst- och Centraleuropa.
Av David SternBBC News i Kiev
De proryska revolvermännen i Ukrainas östra tycks följa en strategi för ständig expansion och påtryckningar på Kievs regering.
Knappast en dag går utan en annan incident. Nyligen har officiella byggnader i Kostyantynivka tagits över, västliga militära övervakare hålls fängslade, fredliga demonstranter i Donetsk attackeras, och nu har den regionala förvaltningsbyggnaden i Luhansk beslagtagits.
Det är svårt att säga vad deras slutliga mål är. Kanske är det för att hålla regeringstjänstemännen i Kiev på defensiven och tvinga dem att släcka ett antal bränder på en gång, medan andra dyker upp i hela regionen.
Annars är det helt enkelt för att hålla situationen instabil, för att förhindra det presidentval som planeras äga rum den 25 maj.
Eller det kan vara raka motsatsen, som många i Kiev och hela landet fruktar: att provocera ukrainarna till ett fullständigt ingripande, vilket i sin tur skulle utlösa en rysk invasion. De militanta har uppmanat Moskva att ingripa vid mer än ett tillfälle.
I ett tal vid Atlantrådet i Washington sa utrikesminister John Kerry till Kreml att "lämna Ukraina i fred" och varnade: "Natoterritoriet är okränkbart vi kommer att försvara varje tum av det."
I annan utveckling på tisdagen:
Moskva har sagt att landet inte har för avsikt att invadera östra Ukraina, där pro-ryska aktivister har beslagtagit regeringsbyggnader i mer än ett dussin städer.
Hittills har endast det lokala kontoret för den statliga säkerhetstjänsten (SBU) i Luhansk, en stad med 465.000 människor mindre än 30 kilometer från den ryska gränsen, varit måltavla.
Men på tisdag eftermiddag samlades hundratals människor som skrek "Ryssland, Ryssland" utanför den regionala regeringens högkvarter för att kräva en folkomröstning om större självständighet.
En grupp män beväpnade med pinnar och metallstänger bröt sig in i byggnaden. De drog ner Ukrainas flagga från taket och ersatte den med en rysk trefärg och Donetsks flagga.
Folkmassor av pro-ryska aktivister tog sedan över byggnaden där åklagaren bodde innan de attackerade inrikesdepartementets poliskårs högkvarter.
Timmar senare rapporterade en nyhetsjournalist från AFP att officerare hade övergett polisstationen och förts bort i bussar, när en arg publik skrek åt dem att "gå hem".
Aktivister gick också in i en regional TV-station, men bestämde sig för att inte ta över den efter att de hade fått göra en direktsändning.
Efter övertagandet krävde president Turchynov att polischeferna i Luhansk och den andra östra staden Donetsk skulle avskedas.
"Den överväldigande majoriteten av brottsbekämpande organ i öst är oförmögna att fullgöra sin skyldighet att försvara våra medborgare", sade han.
Pro-ryska aktivister kontrollerar en stor del av grannregionen Donetsk.
Påföljder
Av Daniel SandfordBBC News i Moskva
Påföljdsskruven dras åt
Östra Ukraina, som har en stor rysktalande befolkning, var ett fäste för f.d. president Janukovych innan han störtades av demonstranter i februari.
Interimsregeringen har förkastat de proryska aktivisternas krav på större autonomi, eftersom de fruktar att de skulle kunna leda till att landet eller fler regioner annekteras av Ryssland, vilket skedde med Krim förra månaden.
Proryska aktivister fortsätter att kvarhålla omkring 40 personer, däribland sju militära observatörer knutna till Organisationen för säkerhet och samarbete i Europa (OSSE) som greps förra veckan.
I tisdags kväll sade den självutnämnde "mayor" i staden Sloviansk, där observatörerna hålls, att "goda framsteg" hade gjorts vid samtal med OSSE:s företrädare.
Vjacheslav Ponomaryov hade tidigare varnat för att de bara skulle släppas om EU lade ned sina sanktioner mot separatistiska ledare.
Tidigare publicerade EU en ny förteckning över 15 personer som står inför reseförbud och frysning av tillgångar.
Det inbegrep chefen för den ryska generalstaben, chefen för den ryska militära underrättelsetjänsten och en rysk vice premiärminister samt separatistiska ledare i Krim, Luhansk och Donetsk.
I måndags meddelade USA sanktioner mot sju individer och 17 företag som man sade var kopplade till president Putins "inre cirkel".
President Putin varnade för att nya sanktioner kan påverka västliga företags verksamhet i Ryssland.
"Om detta fortsätter, måste vi naturligtvis tänka på hur de arbetar i Ryska federationen, inklusive i viktiga sektorer av den ryska ekonomin såsom energi", sade han, och tillade att det inte fanns "varken ryska instruktörer, eller särskilda enheter, eller trupper" i Ukraina.
Den amerikanske finansministern Jack Lew sade att sanktionerna, som först infördes av Washington och Bryssel efter det att Krim annekterats, hittills hade orsakat "en ganska betydande försämring av Rysslands redan svaga ekonomi".
Pro-ryska aktivister har stormat flera officiella byggnader i den östra ukrainska staden Luhansk.