Ali byl synem Abu Taliba, Mohamedova strýce a na nějaký čas jeho opatrovníka. Abu Talib byl také náčelníkem klanu Hashim z kmene Kurajšovců v Mekce. Když byl Abu Talib ve finanční tísni, Mohammed vzal Aliho do své domácnosti. Ali tam byl, když kolem roku 610 Mohammed obdržel první zjevení a výzvu být prorokem. Ali je řekl, že někteří k byli první muž Muslim, ale mohl být jen asi 10 let v té době. V roce 622 se zapojil do hidžry, migrace do Medíny, a krátce nato se oženil s Mohamedovou dcerou Fatimou, která mu porodila dva syny Hasana a Huseina. Po Fatimině smrti v roce 632 si Ali vzal další manželky. Nejznámějším z jeho dalších synů byl Mohammed ibn-al-Hanafiyya (syn ženy z kmene Hanifa). Ali se zúčastnil většiny vojenských výprav vyslaných Mohamedem z Mediny a je pokládán za velkou odvahu.
Po sporu s Abu Bakr přes některé pozemky, které Fatima tvrdil, že zdědila od jejího otce, Ali uznala chalífů Abu Bakra, Omara, a Othman a žil tiše v Medina. Při jedné příležitosti byl ponechán ve vedení Mediny, když Omar chyběl, a Omar ho také jmenoval do Rady šesti, aby zvolil nástupce. Během posledního povstání proti Othman v červnu 656, Ali zůstal otevřeně neutrální, i když je známo, že byly přátelské, s některými z povstalců.
Na Othman atentátu Ali byl zvolen kalif tím, že Muslimové v Medíně, ale nebyl uznán buď Muawiya, pak guvernér Sýrie, nebo Meccan skupina vedená Aisha, Talha, a Zubayr. Tato druhá skupina šla do Iráku a zvedla malou armádu, která byla poražena Aliho vojsky v bitvě u velblouda u Basry v prosinci 656.
Muawiya bylo obtížnější řešit. On a Ali se svými armádami se v červenci 657 střetli u siffinu, ale po několika potyčkách se dohodli na arbitráži v otázce chalífátu. Co se stalo dál, je nejasné, ale Ali odmítl přijmout rozhodnutí obou arbitrů. On a Muawiya zůstal ve válečném stavu, ale tam byly žádné další vojenské akce, i když Ali musel bojovat proti disidentům mezi svými příznivci známý jako Harurites. Zatímco Muawiya přivedl Egypt a Sýrii pod svou kontrolu, Ali nadále vládl Iráku, většina Arábie, a, alespoň nominálně, východní provincie. Na Jan. 24, 661, muž jménem Ibn-Muljam bodl Aliho otráveným mečem, aby pomstil některé z Haruritů. Alího syna Hasana udělal chabé úsilí, aby nárok na kalifát, ale byl snadno poražen Muawiya, který byl tehdy všeobecně uznáván jako kalif.
vzhledem k množství zbožných legend, které vyrostly kolem Aliho, je těžké vědět, jaký byl skutečný muž. Zdá se, že byl oddaným muslimem, ale neměl žádný zvláštní dar pro politiku. I umírnění šíité však tvrdí, že byl po Mohammedovi nejlepším z mužů, a tak byl označen za jeho nástupce. Po jeho smrti a ještě více po smrti jeho syna Huseina, Aliho postava zachytila populární představivost a kolem něj a jeho potomků vznikla politická strana. Jedná se o šíitskou nebo šíitskou (tj. Pro umírněnější šíity je Ali inspirovaným nebo charismatickým vůdcem, božsky zachovaným od hříchu a omylů, a jeho hrobka v Nejefu, Irák, je poutním místem.
ačkoli šíitští muslimové tvrdí, že Mohammed označil Aliho za svého nástupce, sunnitští muslimové to popírají. Moderní učenci nenašli žádný důkaz, který by podporoval šíitské tvrzení.