Nel 661, il diciannovesimo di Ramadan, mentre Ali stava pregando nella Grande Moschea di Kufa, fu colpito alla testa con una spada ricoperta di veleno dal Kharijita Abd al-Rahman ibn Muljam.Ali è morto due giorni dopo per la ferita.Le fonti sembrano essere unanimi sul fatto che Ali abbia proibito alla sua famiglia di punire eccessivamente Ibn Muljam e di spargere il sangue di altri.Nel frattempo, Ibn Muljam avrebbe ricevuto buoni pasti e un buon letto.Dopo la morte di Ali, suo figlio maggiore, Hasan, osservò la lex talionis e Ibn Muljam fu giustiziato.La tomba di Ali è stata tenuta segreta per paura che potesse essere profanata dai suoi nemici.