كان علي يؤم المسلمين في صلاة الفجر في مسجد الكوفة، و في أثناء الصلاة ضربه عبد الرحمن بن ملجم، بسيف مسموم على رأسه، فقال عليٌّ جملته الشهيرة: «فزت ورب الكعبة». وتقول بعض الروايات أن علي بن أبي طالب كان في الطريق إلى المسجد حين ضربه ابن ملجم؛ ثم حمل على الأكتاف إلى بيته وقال: «أبصروا ضاربي أطعموه من طعامي، واسقوه من شرابي، النفس بالنفس، إن هلكت، فاقتلوه كما قتلني وإن بقيت رأيت فيه رأيي» ونهى عن تكبيله بالأصفاد وتعذيبه. وجيء له بالأطباء الذين عجزوا عن معالجته فلما علم علي أنه ميت قام بكتابة وصيته كما ورد في مقاتل الطالبيين. ظل السم يسري بجسده إلى أن توفي بعدها بثلاثة أيام، تحديدا ليلة 21 رمضان سنة 40 هـ عن عمر يناهز 64 حسب بعض الأقوال. وبعد مماته تولى عبد الله بن جعفر والحسن والحسين غسل جثمانه وتجهيزه ودفنه، ثم اقتصوا من ابن ملجم بقتله. ولقب الشيعة علي بن أبي طالب بعدها بشهيد المحراب. و كان علي رضي الله عنه، ولد في مكة، وتشير مصادر التاريخ بأن ولادته كانت في جوف الكعبة، وأُمّه فاطمة بنت أسد الهاشميّة. أسلم قبل الهجرة النبويّة، وهو ثاني أو ثالث الناس دخولا في الإسلام، وأوّل من أسلم من الصبيان.  هاجر إلى المدينة المنورة بعد هجرة الرسول بثلاثة أيّام وآخاه النبي صلى الله عليه، مع نفسه حين آخى بين المسلمين، وزوّجه ابنته فاطمة في السنة الثانية من الهجرة. شارك عليٌ، في كل غزوات الرسول صلى الله عليه وسلم، عدا غزوة تبوك حيث خلّفه فيها النبي، على المدينة. وعُرف بشدّته وبراعته في القتال فكان عاملًا مهمًا في نصر المسلمين في مختلف المعارك وأبرزها غزوة الخندق ومعركة خيبر.  لقد كان عليٌ موضع ثقة الرسول صلى الله عليه وسلم، فكان أحد كتّاب الوحي وأحد أهم سفرائه ووزرائه. وعبد الرحمن بن ملجم أحد الخوارج كان قد نقع سيفه بسم زعاف لتلك المهمة.  ويُروى أن ابن ملجم كان اتفق مع اثنين من الخوارج على قتل كل من معاوية بن أبي سفيان، وعمرو بن العاص، وعلي بن أبي طالب، يوم 17 رمضان، فنجح بن ملجم في قتل علي وفشل الآخران. وتذكر بعض كتب الحديث النبوي وكتب التاريخ أن رسول الله صلى الله عليه وسلم،قد تنبأ بمقتل علي، وتعددت رواياتهم حول ذلك ومنها: «يا علي أبكي لما يُسْتَحَلُّ منك في هذا الشهر، كأني بك وأنت تريد أن تُصلِّي وقد انبعث أشقى الأولين والآخرين، شقيق عاقر ناقة صالح، يضربك ضربة على رأسك فيخضب بها لحيتك». ووفقا لبعض المصادر، فإن علي بن أبي طالب، طلب من ابنه الحسن أن يدفنه سرا وأن لا يعرف أحد مكان دفنه، لكي لا يتعرض قبره للتدنيس من قبل أعدائه.  وظل مدفن علي مجهولا إلى أن أفصح عن مكانه جعفر الصادق في وقت لاحق خلال الخلافة العباسية، بحسب بعض المصادر الشيعية. وبحسب الرواية الأكثر قبولا عند الشيعة فإن علي بن أبي طالب، دفن في النجف حيث بني مشهد ومسجد علي الموجود حتى الآن.  ويعتقد بعض من المسلمين خاصة في أفغانستان أن جسد علي بن أبي طالب، مدفون في المسجد الأزرق في مدينة مزار شريف الأفغانية؛ مستندين إلى روايات تقول أن أبا مسلم الخراساني قام بنقل جثمان علي، سرا بمساعدة بعض فرسانه إلى تل حمران بقرية بلخ شمال أفغانستان، حتى جاء السلطان حسين بيقرة فبنى المرقد الحالي في ذلك المكان سنة 1480م حسب الروايات الأفغانية. وبالمُقابل، فإنَّ بعض علماء أهل السنة قال ببطلان نسب القبر الكائن في النجف إلى علي بن أبي طالب، وقالوا أنَّ جثمانه حُمل على ناقته وأطلقت في الصحراء فلا يعلم أحد أين قبره تحديدًا، وقال آخرون أنه دفن بمقر الإمارة بالكوفة، وقيل بحائطِ جامعِ الكوفةِ.  وقد حكى الخطيبُ البغدادي عن أبي نعيم الفضلِ بنِ دكين، أن الحسنَ والحسين، حولاه فنقلاهُ إلى المدينةِ فدفناه بالبقيعِ عند قبرِ زوجتهِ فاطمةَ أمهما.