Jamal Kiyemba, en ugandisk, greps med hjälp av amerikanska tjänstemän i huvudstaden på tisdag, tillade polisen.
Åklagare Joan Kagezi sköts till döds den 30 mars, en dag före rättegången mot män anklagade för inblandning i bombningar.
Kiyemba, tidigare brittisk medborgare, frigavs 2006 från Guantanamo Bay utan att åtalas för något brott.
För de senaste nyheterna, synpunkter och analyser se BBC Africa Live-sidan.
Han greps i Pakistan 2002 för påstådda kopplingar till al-Qaida och överfördes senare till det kontroversiella fånglägret i USA på Kuba.
"Det var en operation som vi genomförde med vårt team mot terrorism eftersom vi misstänker att Jamal Kiyemba och hans kollegor har varit inblandade i någon form av brottslighet," Ugandas polis talesman Fred Enanga berättade Associated Press nyhetsbyrå.
Det fanns inga avgörande bevis för att koppla honom till Kagazis mord, men han ifrågasattes om hans eventuella roll i hennes mord och i andra brott, tillade han.
Gunmen på en motorcykel sköt ihjäl Kagezi i en förort till Kampala.
Hon åtalade 13 män för självmordsbombningar som dödade 76 personer i Kampala 2010.
USA deporterade Kiyemba till Uganda efter att Storbritannien vägrade att ta honom tillbaka.
Han hade bott i Storbritannien i åtta år innan han reste till Pakistan.
USA:s president Barack Obama har lovat att stänga fånglägret Guatanamo Bay på grund av oron över utbredda kränkningar av de mänskliga rättigheterna.
En före detta Guantanamo Bay-fånge har arresterats i Uganda för att ha förhörts om hans eventuella roll i mordet på en toppåklagare, säger polisen.