Во доцните 1970-ти, тој стана еден од основачите на Египетскиот исламиски џихад (ЕИЏ), организација која се спротивстави на секуларниот режим на земјата и сакаше да го сруши на насилен начин.
Zevahiri, üst-orta sınıftan tanınmış bir ailenin oğlu olarak Kahire'de dünyaya geldi ve burada göz cerrahisi üzerinde eğitim gördü. 1970'lerin sonunda, ülkedeki laik rejime karşı çıkan ve bunu şiddet yoluyla devirmeye çalışan Mısırlı İslami Cihad (MİC) örgütünün kurucularından birisi oldu.