Алі привів до виокремлення з числа його прихильників релігійно-політичного угруповання хариджитів, що вели боротьбу не тільки проти Омеядів, а й проти шиїтів. Від рук хариджитів в 661 році Алі й загинув. За переказами його поховали в місті Ен-Наджаф, яке стало одним із святих місць паломництва шиїтів.