On je pušten nakon što je odslužio trogodišnju zatvorsku kaznu i onda se 1984. uputio u Pakistan, u borbu protiv sovjetske okupacije Afganistana.
El Zevahiri üç yıl hapis yattıktan sonra tahliye edildi ve 1984 yılında Pakistan'a giderek burada Afganistan'daki Sovyet işgaline karşı savaştı.