Det stod dock att "mästarsinnena" bakom mordet på general Adolphe Nshimimana fortfarande söktes.
Framträdande människorättsaktivist Pierre Claver Mbonimpa sköts och skadades i en uppenbar repressalisattack efter Gen Nshimiramana dödande förra veckan.
Mbonimpa har fått flyga till Belgien för behandling.
Stor skottlossning hördes i huvudstaden, Bujumbura, på söndag kväll, men det var oklart vem som låg bakom det, AFP nyhetsbyrån rapporterar.
Burundi har drabbats av allvarliga oroligheter sedan president Pierre Nkurunzizas beslut i april att söka en tredje mandatperiod.
Motståndarna hävdade att detta bröt mot konstitutionen, och protester bröt ut i delar av landet.
Man misslyckades också med statskuppförsöket i maj, eftersom avfälliga generaler krävde att Nkurunziza skulle avgå när hans mandat löper ut.
Ett presidentval hölls förra månaden som Nkurunziza vann.
Resultatet förkastades av de viktigaste oppositionspartierna, men en av dess ledande medlemmar, Agathon Rwasa, gick med på att tillträda posten som vice talman i parlamentet för att främja försoning.
Åklagarämbetet sa i ett uttalande att ett militärfordon användes av Gen Nshimiramana's angripare och det brändes senare.
"Förövarnas identiteter är nu kända. Ett visst antal har gripits. Resten av dem och hjärnan söker man", sade den.
Angriparna riktade in sig på generalens bil med kulsprutor och raketgevär i Kamengedistriktet i Bujumbura.
Han ansågs allmänt vara den mäktigaste personen i Burundi efter Nkurunziza.
Under tiden sade Mbonimpas dotter att myndigheterna hade tillåtit honom att bege sig till Belgien, den tidigare kolonialmakten.
"Han kommer att behandlas där och de kan göra alla tester som vi inte kan göra här. Vi är också mer lugna om hans säkerhet där, "Amandine Nasagarare sade, AFP rapporterar.
Regeringen fördömde hans skottlossning av en revolverman på en motorcykel förra veckan som en handling av "terrorism".
Mbonimpa var en stark kritiker av Nkurunzizas försök att ställa upp i valet igen och sades vara en av de få medlemmar av Burundis civila samhälle som inte hade flytt från landet.
I april hölls han utan åtal i mer än 24 timmar av underrättelsetjänsten efter att han uppmanat till protester mot presidentens ansträngningar att säkra en tredje mandatperiod.
Flera personer har arresterats i Burundi för mordet på en mäktig general, har åklagaren sagt.