Ali era figlio di Abu Talib, zio di Maometto e per un certo periodo suo tutore. Abu Talib era anche capo del clan di Hashim della tribù di Quraysh alla Mecca. Quando Abu Talib era in difficoltà finanziarie, Mohammed prese Ali nella sua famiglia. Ali era lì quando, circa 610, Maometto ha ricevuto la prima rivelazione e la chiamata ad essere un profeta. Ali è detto da alcuni di essere stato il primo musulmano di sesso maschile, ma avrebbe potuto essere solo di circa 10 anni al momento. Si unì all’Hijra, la migrazione a Medina nel 622, e poco dopo sposò la figlia di Maometto, Fatima, che gli diede due figli, Hasan e Husein. Dopo la morte di Fatima nel 632, Ali prese altre mogli. Il più noto dei suoi altri figli era Mohammed ibn-al-Hanafiyya (figlio della donna della tribù di Hanifa). Ali ha preso parte alla maggior parte delle spedizioni militari inviate da Maometto da Medina ed è noto per aver mostrato grande coraggio.
Dopo una disputa con Abu Bakr su alcune terre che Fatima aveva affermato di aver ereditato da suo padre, Ali riconobbe i califfi Abu Bakr, Omar e Othman e visse tranquillamente a Medina. In un’occasione è stato lasciato in carica di Medina quando Omar era assente, e Omar lo ha anche nominato al Consiglio dei Sei per eleggere un successore. Durante l’insurrezione finale contro Othman nel giugno 656, Ali rimase apertamente neutrale, anche se è noto per essere stato amichevole con alcuni degli insorti.
All’assassinio di Othman Ali fu eletto califfo dai musulmani di Medina, ma non fu riconosciuto né da Muawiya, allora governatore della Siria, né da un gruppo meccano guidato da Aisha, Talha e Zubayr. Quest’ultimo gruppo andò in Iraq e sollevò un piccolo esercito, che fu sconfitto dalle truppe di Ali nella battaglia del Cammello vicino a Bassora nel dicembre 656.
Muawiya era più difficile da affrontare. Lui e Ali con i loro eserciti si affrontarono a Siffin nel luglio 657, ma dopo alcune schermaglie accettarono un arbitrato sulla questione del califfato. Quello che è successo dopo è oscuro, ma Ali ha rifiutato di accettare la decisione dei due arbitri. Lui e Muawiya rimasero in uno stato di guerra, ma non ci furono ulteriori ostilità, anche se Ali dovette combattere contro i dissidenti tra i suoi sostenitori noti come Haruriti. Mentre Muawiya portò l’Egitto e la Siria sotto il suo controllo, Ali continuò a governare l’Iraq, la maggior parte dell’Arabia e, almeno nominalmente, le province orientali. Il gen. 24, 661, un uomo chiamato Ibn-Muljam pugnalò Ali con una spada avvelenata per vendicare alcuni degli Haruriti. Il figlio di Ali Hasan fece un debole sforzo per rivendicare il califfato, ma fu facilmente sconfitto da Muawiya, che fu poi universalmente riconosciuto come califfo.
A causa della massa di pie leggende che sono cresciute intorno ad Ali, è difficile sapere come fosse il vero uomo. Egli sembra essere stato un musulmano devoto, ma di aver avuto nessun dono speciale per la politica. Anche sciiti moderati, tuttavia, sostengono che egli era il più eccellente degli uomini dopo Maometto e così è stato designato per succedergli. Dopo la sua morte e ancora di più dopo la morte di suo figlio Husein, la figura di Ali ha catturato l’immaginazione popolare e un partito politico si è formato intorno a lui e ai suoi discendenti. Questa è la setta sciita o sciita (cioè “il partito”), che ha diverse suddivisioni. Per gli sciiti più moderati Ali è un leader ispirato o carismatico, divinamente preservato dal peccato e dall’errore, e la sua tomba a Nejef, in Iraq, è un luogo di pellegrinaggio.
Sebbene i musulmani sciiti affermino che Mohammed abbia designato Ali come suo successore, ciò è negato dai musulmani sunniti. Gli studiosi moderni non hanno trovato alcuna prova che supporti l’affermazione sciita.