در ابتدا، حکومت خلیفه عثمان بن عفان دوران پیشرفت برای خلافت در حال گسترش راشدین بود. حاکم مصر، عبدالله بن سعد، از ناوگان جدید خلافت استفاده کرد تا در سال ۶۴۹ میلادی از جزیره قبرس باج منظمی بگیرد، قبل از آنکه رومیان شرقی را در نبرد دریایی ذات الصواری شکست دهد. در همین حال، ارتش‌های پیشروی احنف بن قیس و عبدالله بن عامر در امپراتوری ساسانی که به سرعت در حال فروپاشی بود، پیشرفت‌های بیشتری داشتند. یزدگرد سوم، آخرین شاهنشاه ایران، به چیزی بیش از یک فراری تبدیل شده بود، از شهری به شهر دیگر پیش از فاتحان می‌گریخت. پس از سقوط استان فارس بین سال‌های ۶۴۹ و ۶۵۰، تلاش‌های او برای جلب حمایت در کرمان و سپس سیستان هر دو شکست خوردند، زیرا حاکمان این استان‌ها از پرداخت مالیات به یک امپراتور بی‌نوا و بی‌قدرت یا پناه دادن او در برابر اعراب پیشرو خودداری کردند. سرانجام با عقب‌نشینی به مرو، او آخرین تلاش خود را برای متوقف کردن جریان با درخواست کمک از متحدانش در میان شاهزاده‌نشین‌های هپتالیان انجام داد. اگرچه برخی سربازان برای حمایت از او فرستاده شدند، اما هرگز با اعراب نجنگیدند - پس از فرار یا تسلیم شدن دست‌نشاندگان یزدگرد، آخرین فرمانده او فرخزاد در سال ۶۵۱ او را رها کرد و حاکم مرو، ماهوی سوری نیز کمی بعد علیه او شورید. با شکست آخرین حامیانش توسط متحدان هپتالی ماهوی سوری، شاهنشاه سرانجام در خانه‌ی یک آسیابان ساده در حومه‌ی مرو به سرنوشت خود رسید و برای جواهراتش به قتل رسید. در حالی که مقاومت محلی در طبرستان سال‌ها ادامه یافت، امپراتوری بزرگ ساسانی دیگر وجود نداشت و سلسله‌ی آن تنها از طریق خانواده‌ای تبعیدی که در چین پناه گرفته بودند ادامه یافت.
اما با وجود تمام پیروزی‌های نظامی خلافت در دوران دوازده‌ساله حکومت عثمان، سیاست‌های داخلی آن به زودی آشوب‌های درونی برای این دولت جوان و به سرعت در حال گسترش به بار آورد. سیاست‌های اقتصادی غیرمحبوب و طرفداری از خویشاوندان خلیفه پیر، مخالفت فزاینده‌ای از اقشار مختلف جامعه با حکومت او ایجاد کرد. در دوران عمر، قوانینی وضع شده بود که سربازان عرب را از خرید زمین در سرزمین‌های فتح‌شده منع می‌کرد تا سربازان را به شدت از جمعیت‌های محلی جدا نگه دارد - هم برای جلوگیری از تأثیرات خارجی بر ایمان ارتش‌های پیروز و هم برای محافظت از اموال فتح‌شدگان. تحت حکومت عثمان، این محدودیت‌ها برداشته شد و باعث شد بسیاری از سربازان ارتش خلافت زمین‌های بزرگی در سوریه و عراق بخرند، در برخی موارد با سوءاستفاده از قدرت و اختیارات خود ساکنان را بیرون کنند و همان زمین‌ها را با سود کلانی دوباره بفروشند. این امر طبقه‌ی جدیدی از سربازان سابق ثروتمند ایجاد کرد که در سراسر خلافت املاک مجلل برپا کردند. این سلیقه‌ی جدید برای تجملات در میان فاتحان، مالیات‌ها را افزایش داد و تنش های زیادی هم در میان غیرمسلمانان و هم در میان نوکیشان غیرعرب ایجاد کرد.
علاوه بر اصطکاک اقتصادی، عثمان با ایجاد یک نسخه‌ی رسمی و یکپارچه از قرآن، یک جنجال الهیاتی نیز برای خود به وجود آورد. پیش از این، ماهیت ثبت و انتقال وحی‌های پیامبر توسط نزدیکانش به این معنی بود که بسیاری از قرآن‌ها تفاوت‌های جزئی در متن با یکدیگر داشتند، که ایمانی را که بر اساس کلام جاودان و بی‌خطای خدا بود تضعیف می‌کرد. برای اصلاح این مسئله، عثمان گروهی از علمای دینی را گرد هم آورد تا روایت رسمی از کلمات پیامبر را تعیین کنند و تا حد امکان قرآن‌های مختلف را جمع‌آوری و بسوزانند. قرآن عثمان تا امروز به عنوان متن مقدس مسلمانان در سراسر جهان بدون تغییر باقی مانده است - اما در دوران حکومت او، برخی از مسلمانان با تصمیمات علمای عثمان مخالف بودند یا سوزاندن هر قرآنی را اهانت‌آمیز می‌دانستند و صدای خود را به مخالفت فزاینده با حکومت او اضافه کردند.
نارضایتی طولانی‌مدت از خلیفه عثمان در سال ۶۵۶ به شورش آشکار تبدیل شد. در مصر، کوفه و بصره، سربازان ناراضی از شهرهای نظامی محلی جمع شدند و به مدینه لشکر کشیدند تا عزل عثمان و انتخاب خلیفه‌ای جدید را مطالبه کنند. عثمان که توسط عواملش به او گفته شده بود شکایات علیه او بی‌اساس است و شورش بعید، وقتی گروه‌های سربازان به مدینه رسیدند غافلگیر شد. اگرچه او از کناره‌گیری از خلافت امتناع کرد، اما سعی کرد به یک توافق مسالمت‌آمیز برسد و علی بن ابی‌طالب - داماد پیامبر و یکی از اولین مسلمانان - را برای مذاکره با شورشیان به نمایندگی از خود فرستاد. گروه‌های کوچک‌تر کوفی و بصری متقاعد شدند که با عثمان صلح کنند، در حالی که نیروی بزرگتر مصری با وعده‌ی برکناری حاکم غیرمحبوبشان، عبدالله، و جایگزینی او با محمد بن ابی‌بکر، پسر اولین خلیفه، آرام شدند. با تضمین علی برای این توافق و رهبری ابن ابی‌بکر، آنها بازگشت خود به مصر را آغاز کردند و به نظر می‌رسید خطر فوری برای عثمان پایان یافته است. اما در راه بازگشت، سربازان پیامی را که به مصر می‌رفت و دستور اعدام رهبران شورشی را می‌داد متوقف کردند. آنها این را نشانه‌ای از خیانت عثمان دانستند و به مدینه بازگشتند و خانه‌ی عثمان را محاصره کردند و دوباره استعفای او را خواستار شدند.
اینکه آیا عثمان واقعاً دستور اعدام شورشیان را داده بود یا نه، نامشخص است و بیشتر روایات این پیام را نه از عثمان، بلکه از پسرعمو و منشی او، **مروان بن حکم** - خلیفه آینده - می‌دانند. به هر حال، شورشیان آب به خانه‌ی عثمان را قطع کردند و خواسته‌های تهدیدآمیزتری برای کناره‌گیری او مطرح کردند، تا اینکه در ۱۶ ژوئن یکی از خدمتکاران مروان یکی از سخنگویان شورشیان را با پرتاب سنگی از بالکن کشت و پایان خونین ماجرا تقریباً اجتناب‌ناپذیر شد.
رها شده توسط بیشتر قبیله‌ی اموی و با بی‌طرفی شورشیان عراقی و بزرگان مدینه، عثمان به مدافعان باقی‌مانده‌اش دستور داد تا برای جلوگیری از خونریزی بین مسلمانان هنگام حمله‌ی شورشیان روز بعد، مقاومت نکنند. با این حال، مروان و فرزندان علی از این دستور سرپیچی کردند و تلاش کردند جان خلیفه را نجات دهند. وقتی عثمان برای نماز ظهر نشسته بود، محمد بن ابی‌بکر و چند تن از شورشیان مصری از پشت بام خانه‌ی همسایه به داخل خانه‌ی او رفتند و خلیفه را با شمشیر تهدید کردند. اگرچه روایات در جزئیات وقایع و به ویژه نقش ابن ابی‌بکر متفاوت است، اما نتیجه‌ی نهایی یکی بود: عثمان اولین خلیفه‌ای بود که توسط همرزمان مسلمانش به قتل رسید - رویدادی که جهان اسلام را در عمق وجودش تکان داد.
پس از قتل، گروه‌های شورشی عملاً مدینه را کنترل کردند و تحت تأثیر آنها، به ویژه عراقی‌ها، علی به مقام خلافت رسید. به عنوان داماد پیامبر و یکی از نامزدهای اصلی در انتخابات قبلی، علی انتخاب امن و محبوبی به نظر می‌رسید. با این حال، حکومت او با رسوایی قتل عثمان سنگین شده بود و درخواست‌ها برای عدالت، خلیفه‌ی جدید را در موقعیت دشواری قرار داد. با توجه به تلاش‌های علی برای آرام‌کردن شورش و جراحاتی که پسرش حسن در دفاع از عثمان متحمل شده بود، بسیار بعید است که او نقشی در قتل پیشینی خود داشته باشد. اما بسیاری از شورشیانی که علیه عثمان بودند، اکنون مهم‌ترین حامیان او بودند، بنابراین مجازات آنها پایگاه قدرت او را تضعیف می‌کرد و کشتن آنان به سرنگونی خودش می‌انجامید. گرفتار در این تله، علی اجازه داد قتل عثمان بدون مجازات بماند، که به اتهامات ضعف و همدستی، به ویژه از سوی قبیله‌ی قدرتمند اموی عثمان، انجامید و زمینه را برای اولین جنگ داخلی اسلامی فراهم کرد.
نخستین نشانه‌های درگیری از سوی طلحه بن عبیدالله و زبیر بن عوام، رقبای اصلی علی در انتخابات که او را به قدرت رساند، ظاهر شد. در گذشته، این دو در کنار علی به عنوان همرزمان جنگیده بودند. اما با وجود مخالفت قبلی طلحه با عثمان، آنها از جمله کسانی بودند که بیشترین اصرار را برای اقدام علیه شورشیان داشتند و به سرعت با یکی دیگر از مخالفان علی - عایشه، بیوه‌ی خود پیامبر - همپیمان شدند. با عایشه به عنوان چهره‌ی روحانی متحدکننده‌ی شورش، حمایت مالی از بسیاری از حاکمان اموی که در آغاز حکومت علی برکنار شده بودند، و پیوستن چندین رهبر برجسته‌ی مسلمان از جمله مروان و ابان بن عثمان (پسر خلیفه‌ی مقتول) به پرچم او، ارتش شورشی عایشه چالش بزرگی برای رهبری علی محسوب می‌شد.
متأسفانه برای «مادر مؤمنان»، چند اشتباه حیاتی باعث تضعیف هدف او شد. تلاش‌های زیادی برای جلب حمایت در عراق تلف شد، در حالی که بیشتر این منطقه به علی وفادار بود. سپس، هنگامی که رهبری شورشی در اواسط اکتبر ۶۵۶ مکه را ترک کرد تا در بصره حمایت جمع کند، اختلافات داخلی در صفوف آنها شعله‌ور شد. طلحه و زبیر برای کسب قدرت با یکدیگر رقابت می‌کردند، در حالی که مخفی‌نگه‌داشتن مقصد نهایی ارتش باعث نارضایتی مروان و امویان درون ارتش شد که این شورش را بیشتر به عنوان یک انتقام خون می‌دیدند و ترجیح می‌دادند مستقیماً به مدینه بروند و توطئه‌گرانی که عثمان را کشته بودند اعدام کنند، نه اینکه برای سرنگونی علی جنگ کنند.
جنبش ضد علی ضربه‌ی دیگری در دسامبر خورد، زمانی که عایشه و پیروانش به بصره رسیدند. پس از شنیدن سخنرانی‌ها و دعوت‌های زبیر و طلحه به جنگ در بازار خارج شهر، واکنش مردم بصره تقسیم شد - برخی حمایت کردند و برخی دیگر او را محکوم کردند. اولین درگیری‌های شورش او بلافاصله پس از آن رخ داد، زمانی که بسیاری از بازاریان وفادار به عایشه یا علی در بازار با یکدیگر درگیر شدند و با کفش‌های خود به هم ضربه زدند. اما مهم‌تر از هر زد و خورد بازاری، واکنش حاکم بصره عثمان بن حنیف بود که به علی وفادار ماند. با این حال، با اکراه از بروز خونریزی در شهرش، او اجازه داد شورشیان یک شب اردو بزنند، در حالی که منتظر پیام علی بود که اکنون از مدینه در راه بود. پیامی از خلیفه به زودی رسید که به ابن حنیف دستور می‌داد به شورشیان اولتیماتوم بدهد: یا وفاداری به علی یا جنگ. اما تا آن زمان، ارتش عایشه قبلاً خود را در اردوگاهی قابل دفاع نزدیک انبار محلی مستقر کرده بود.
باید توجه داشت که حتی پس از قتل خلیفه عثمان، فکر جنگ آشکار بین مسلمانان برای اکثر آنها تقریباً غیرقابل تصور بود، و بنابراین شاعر و عالم برجسته ظالم بن عمرو دؤالی برای آخرین درخواست صلح و پایان شورش فرستاده شد. وقتی این درخواست رد شد، فرمانده سوارهنظام بصره حکیم بن جبله با نیروهای محلی حاکم به میدان تاخت. نبرد کوتاه اما خونینی در اطراف اردوگاه عایشه درگرفت و بسیاری از هر دو طرف کشته شدند، اما شورشیان بیرون رانده نشدند. پس از آن، آتش‌بس ناپایداری امضا شد که قرار بود تا رسیدن علی ادامه یابد.
اما این آتش‌بس عمر کوتاهی داشت. اگر عایشه هنوز تمایلی به تسلیم نداشت، رسیدن علی تنها باعث می‌شد شورشیان به شدت در اقلیت قرار بگیرند، بنابراین به توصیه طلحه، گروهی از شورشیان حاکم بصره را در یک حمله غافلگیرانه در حالی که نماز عصر را در مسجد می‌خواند اسیر کردند، چهل ضربه شلاق به او زدند و ریش و مژه‌هایش را کندند و سپس زندانی کردند. صبح روز بعد، پسر زبیر، عبدالله، شورشیان را در حمله به انبار رهبری کرد و چهل برده‌ی آزادشده‌ی سندی را که به عنوان محافظ گمارده شده بودند کشت و غلاتی را که برای تأمین زمستانی مردم شهر بود تصرف کرد. حکیم اندکی بعد با خشم فراوان رسید و خواستار آزادی حاکم شد و عبدالله را به خاطر کشتن مسلمانان بی‌گناه که نقشی در قتل عثمان نداشتند سرزنش کرد. وقتی عبدالله امتناع کرد، حکیم با ۷۰۰ مرد باقی‌مانده‌اش حمله کرد، اما به سرعت توسط ارتش بزرگتر شورشیان محاصره و شکست خورد. اگرچه او تا آخرین نفس جنگید - طبق یک روایت خیال‌انگیز، حتی با پای قطعی‌شده‌اش یکی از شورشیان را کشت - حکیم، پسرش و بسیاری از سربازانش کشته شدند و بقیه یا فرار کردند یا تسلیم شدند و کنترل کامل بصره را به شورشیان سپردند.
با نزدیک شدن علی، شورشیان پیروز زمان کمی برای جمع‌آوری حمایت برای جنبش خود داشتند. اگرچه کنترل شهر و خزانه‌ی آن بیشتر قبایل اطراف را حداقل به صورت اسمی تحت پرچم عایشه درآورد، اما فرستاده‌هایشان به شمال به کوفه موفقیت کمتری داشتند. در حالی که حاکم استان، ابوموسی اشعری، سعی در بی‌طرفی داشت، یکی از بزرگان کوفه به نام زید بن صوحان پس از دریافت پیامی از عایشه که او را به عنوان فرزند عزیزش خطاب کرده بود، پاسخ داد که فرزند عزیز او ترجیح می‌دهد او در خانه در امان بماند. تلاش‌های علی ثمربخش‌تر بود. او پسرش حسن را به کوفه فرستاد و ابوموسی به زودی برکنار شد و بیش از شش هزار مرد برای بازپس‌گیری بصره جمع شدند. با پیوستن این افراد به ۷۰۰ نفر علی از مدینه و نزدیک به دو هزار نفری که از قبایل مختلف در طول مسیر کاروان جمع شده بودند، علی در ۵ دسامبر با تقریباً ده هزار مرد به بصره رسید و با ارتش قابل مقایسه‌ی عایشه متشکل از بصریان و مکیان روبرو شد. پس از سه روز ایستادگی و تلاش برای متقاعد کردن قبایل بصره، سوارکاری از سوی علی با قرآنی در انتهای نیزه‌اش فرستاده شد تا هر دو طرف را به نبرد شرافتمندانه تشویق کند. وقتی او با تیرهای زهرآگین کشته شد، نبرد آغاز شد و دو ارتش سوارهنظام مانند رعد به هم برخورد کردند.
با وجود اینکه عایشه طبق بیشتر روایات حداقل به اندازه علی قبل از رسیدن او نیرو داشت، تغییر موضع چندین قبیله‌ی بصری قبل و در طول نبرد، نیروی او را به شدت تضعیف کرد. در مرکز ارتش علی، ابوقتاده نعمان سربازان پیاده‌نظام کوفی را رهبری می‌کرد، در حالی که پسر علی، محمد بن حنفیه، پرچم پدرش را حمل می‌کرد. در جناح راست ارتش علی، مالک اشتر بخش عمده‌ی سوارهنظام کوفی را هدایت می‌کرد و به زودی قبیله‌ی بنی حنظله را که جناح چپ عایشه را رهبری می‌کرد، شکست داد. و در جناح چپ علی، گفته می‌شود که عمار بن یاسر، یار مشهور پیامبر، زبیر را که فرماندهی کلی ارتش شورشیان به او سپرده شده بود، وادار کرد تا ارتش خود را رها کند و بدون جنگیدن صحنه را ترک کند.
فرار زبیر موضوعی مرموز است - با وجود پیروزی‌های گذشته و استعدادش به عنوان فرمانده، همه‌ی روایات موافقند که او ارتش خود را بسیار زود در نبرد رها کرد و عقب نشست، اگرچه دلایل مختلفی ارائه شده است. برخی اشاره می‌کنند که مکاتبات پنهانی از علی او را متقاعد کرد که راه اشتباهی را در پیش گرفته، یا اینکه پیامبر گفته بود عمار توسط گروهی از مردان شرور کشته خواهد شد و این باعث شد زبیر وقتی با عمار روبرو شد، در نقش خود تردید کند. برخی دیگر به امتناع عایشه از تأیید او به عنوان خلیفه در آستانه نبرد اشاره می‌کنند و می‌گویند او به طلحه تمایل داشت و نقش زبیر در شورش تلاشی خودخواهانه برای تصاحب تاج و تخت بوده است. به هر حال، فرار او طلحه را در موقعیتی به سرعت در حال بدتر شدن تنها گذاشت. او با نیرویی قوی از سوارهنظام بصری چندین بار به جناح چپ و مرکز علی حمله کرد و در ابتدا موفقیت‌های بزرگی داشت. اما وقتی جناح راست علی خطوط او را در هم شکست، سوارهنظام متحرک او در گل‌و-لای گیر کرد و خطر محاصره را حس کرد. وقتی برای عقب‌نشینی و تجدید قوا چرخید، تیری به پشت زانویش اصابت کرد و مجروح شد - نه از سوی نیروهای علی، بلکه از سوی متحد ظاهری او مروان، که ظاهراً به عنوان انتقامی کینه‌توزانه برای مخالفت طلحه با عثمان حالا که اتحاد آنها برای مجازات علی و قاتلان عثمان به نتیجه نرسیده بود، این تیر را پرتاب کرد. پس از شلیک این تیر خیانتکارانه، مروان توسط نیروهای پیروز علی اسیر شد، در حالی که نیروهای بی‌رهبر عایشه متلاشی شدند.
این نبرد سرنوشت‌ساز در بصره که به جنگ جمل معروف شد - به خاطر شتری که عایشه از پشت آن شاهد شکست خود بود - اولین چالش بزرگ به خلافت علی را به پایان رساند، اگرچه درگیری‌های بیشتری در پیش بود. آمار تلفات مختلفی ارائه شده است، اما ارقام پذیرفته‌شده حدود ۴۰۰ نفر از ارتش علی و ۲۵۰۰ نفر از ارتش عایشه است - عدد دوم به ویژه با توجه به اینکه علی همه اسیران به جز یکی را بخشید، اما با توجه به گزارش‌هایی که بسیاری از شورشیان تا مدتی طولانی پس از فروپاشی ارتش و شکست از روی تعصب به عایشه جنگیدند، قابل قبول است.
از بین سه رهبر شورشی، تنها عایشه از نبرد و پیامدهای آن جان سالم به در برد و توسط برادرش محمد بن ابی‌بکر به مدینه بازگردانده شد، جایی که بقیه عمرش را در راحتی اما با فعالیت سیاسی بسیار محدود گذراند. زبیر اندکی پس از پایان نبرد توسط سه نفر از قبایل پیدا شد و در حالی که ظاهراً قصد فرار به سوی متحدش معاویه، حاکم سوریه را داشت، به قتل رسید.
در بنیان‌گذاری خود، خلافت عمدتاً از طریق اجماع اصحاب در مدینه اداره و سازماندهی می‌شد، اما با وجود تمام شایستگی‌های عثمان، حکومت او تغییر قطعی‌ای را از آرمان‌های عدالت و وحدت اسلامی که خلافت اولیه از پیامبر به ارث برده بود، به همراه آورد. در عربستان پیش از اسلام، زندگی به شدت بر اساس خطوط قبیله‌ای تقسیم شده بود، اما تحت خلافت ابوبکر و عمر، برادری تحت اسلام جایگزین وفاداری‌های قبیله‌ای که پیش از ایمانشان وجود داشت، شد. در سخنرانی خود پس از تبدیل شدن به اولین خلیفه، ابوبکر به مسلمانان گردآمده در مدینه تأکید کرد که او بزرگ‌ترین میان آنها نیست، و این که او کمک و نصیحت صادقانه رعایای خود را می‌پذیرد، حتی اگر به معنای سخن گفتن بر ضد پیشنهادات خودش باشد - و با این که ابوبکر پسران بالغ داشت، خلافت را به مشاور و همراهش عمر سپرد تا این که بخواهد یک سلسله حکومتی ایجاد کند. عمر به طور مشهوری همان سبک زندگی فروتنانه‌ای را به عنوان خلیفه داشت که پیش از تاج‌گذاری‌اش داشت، روی بستری از برگ‌های نخل می‌خوابید و در همان کارهای سخت که رعایایش برای خدمت به نیازمندان انجام می‌دادند، شرکت می‌کرد. تحت حکومت عثمان، اما، سیاست‌های قبیله‌گرایانه و فامیل‌سالارانه گذشته پیش از اسلام شروع به بازگشت به صحنه کرد. بستگان عثمان مکرراً به موقعیت‌های ثروت و قدرت منصوب می‌شدند، با این که ابتدا برادر رضاعی او ولید بن عقبه و بعد عمویش سعید بن عاص به حکومت کوفه منصوب شدند. و در حالی که تعداد کمی می‌توانستند عبدالله بن سعد را پس از فتوحاتش در شمال آفریقا و پیروزی‌هایش در دریا در مدیترانه، نالایق بدانند، این واقعیت که او عمرو بن عاص، فاتح مصر و حاکم پیشین آن، را عمدتاً به دلیل این که عبدالله بن سعد نیز یکی دیگر از برادران رضاعی عثمان بود و وی را جایگزین فاتح مصر کرده بود، بسیار به تحریک نارضایتی در میان دیگر اصحاب پیامبر و مسلمانان قدیمی مدینه که خود را در مقابل ترقی قوم بنی امیه عثمان محروم می‌دیدند، کمک کرد. به لطف این‌ها و چندین اموی دیگر که به موقعیت‌های برجسته منصوب شده بودند، این قبیله به سرعت به یکی از قدرتمندترین نهادهای سیاسی درون خلافت تبدیل شد، با حاکمان متعدد استان‌های دورافتاده که با پیوندهای خانوادگی به هم متصل بودند و آماده مقاومت در برابر هر تهدیدی علیه قدرتی که به اشتراک گذاشته بودند، بودند. برجسته‌ترین چهره در این روایت، اما، پسرعموی عثمان معاویه است، که زمانی یک حاکم منطقه‌ای کوچک در دوران حکومت عمر بود و عثمان به او فرمانروایی تمام سوریه را اعطا کرده بود. این بر اساس پیشنهاد معاویه بود که عثمان دستور ساخت نیروی دریایی خلافت را داد، و یورش‌های آن به قبرس، رودس و کرت ثروت قابل توجهی را به خزانه سوریه سرازیر کرد، و معاویه را به قدرتمندترین عضو یک خانواده قدرتمند و محتمل‌ترین رقیب علی در پی کشته شدن عثمان تبدیل کرد.
درگیری بین معاویه و علی مدتها بود که اجتناب‌ناپذیر به نظر می‌رسید، چرا که یکی از اولین اقداماتی که علی پس از انتخاب شدن به عنوان خلیفه انجام داد، دستور عزل معاویه و بسیاری از دیگر حاکمان منصوب شده توسط عثمان بود. معاویه تنها کسی بود که به اندازه کافی قدرتمند و در موقعیت خود امن بود که از این دستور سرپیچی کند، و آن حاکمانی که با موفقیت عزل شده بودند، به حمایت از معاویه با هر ثروت یا حمایتی که می‌توانستند ارائه دهند، شتافتند. با اطمینان از قدرت خود، معاویه به طور عمومی علی را به دلیل قتل عثمان سرزنش کرد و به طور ضمنی خلافت را به عنوان نزدیک‌ترین خویشاوند خلیفه مقتول ادعا کرد، که عملاً اعلام جنگ بود. موقعیت معاویه بیشتر توسط یک متحد غیرمنتظره تقویت شد: عمرو بن عاص، فاتح و حاکم سابق مصر. با وجود دشمنی قبلی عمرو با عثمان، محبوبیت او در مصر او را به کاندیدای مناسبی تبدیل کرد تا ثروتمندترین استان خلافت را از دست علی خارج کند. با وعده حکومت مادام‌العمر مصر به عمرو در ازای حمایتش، معاویه حاکم فعلی مصر قیس بن سعد را از طریق یک فریب استادانه برکنار کرد. او نامه‌ای جعلی از قیس به خودش ساخت که در آن موافقت کرده بود به جناح او بپیوندد، و جاسوسان علی را از آن مطلع کرد. فریب این جعل، علی را وادار کرد که حاکم شایسته و به گفته اکثر روایات، وفادار را کمی بعد عزل کند، و محمد بن ابی‌بکر بی‌تجربه جای او را بگیرد که خیلی دیر بود تا حمایت قابل توجه مصری‌ها را برای علی در نبرد پیش رو بسیج کند. عمرو همچنین به معاویه کمک کرد تا اتحاد مهمی با قدرتمندترین قبیله یمن، حمیر، که زمانی در دوران پیش از اسلام یک پادشاهی مستقل قدرتمند را حکومت می‌کردند، برقرار کند. با عمرو به عنوان نزدیک‌ترین مشاورش، متحدان سراسر خلافت که به پرچم او پیوسته بودند، و علی که توسط شورش اخیر عایشه تضعیف شده بود، معاویه در موقعیتی به شدت امن قرار داشت. بنابراین، هنگامی که خلیفه علی در اواخر مه 657 با ارتش‌هایش به پشت سرش مدینه را ترک کرد تا حاکم سرکش را عزل کند، نبرد بسیار سخت‌تری از آنچه احتمالاً انتظار داشت در پیش رو داشت.
پیش از این که دو ارتش اصلی در نبرد با هم روبرو شوند، یک سری تعقیب و گریزهای سواره و درگیری‌هایی در حران و رقه رخ داد، که مالک اشتر را در مقابل عبدالرحمن بن خالد، پسر سردار بی‌همتای خالد بن ولید قرار داد، در حالی که ارتش علی قدرت و عزم معاویه را می‌آزمود و هر دو را تغییرناپذیر یافت. اولین نبرد واقعی در صفین، در کرانه‌های رود فرات رخ داد. هنگامی که ارتش علی در 5 ژوئن رسید، سوارهنظام سوری را یافت که راه رسیدن به تنها منطقه آبرسانی قابل دسترس برای مایل‌ها را مسدود کرده بودند. این بر خلاف توصیه عمرو بود، و به اشتباهی از سوی معاویه تبدیل شد. هنگامی که علی در حال بسیج ارتش‌هایش برای لشکرکشی علیه معاویه بود، انگیزه دادن به مردانش برایش دشوار بود، بسیاری تمایلی نداشتند که خونریزی بیشتری را بین برادران در ایمان ببینند تا یک حاکم را به اطاعت بازگردانند. اما تلاش نابخردانه معاویه برای محروم کردن دشمنانش از آب در گرمای کویر، هرگونه همدردی که او یا نیروهایش ممکن بود در صفوف علی داشته باشند را از بین برد، و صحنه را برای رویارویی بسیار خونین‌تر از آنچه که در بصره رخ داده بود، آماده کرد. اعداد درگیر مورد بحث است. طبری ارتش علی را 70،000 نفر می‌داند، عددی که احتمالاً اغراق‌آمیز است، چرا که بیش از 60،000 کوفی را تحت پرچم او می‌شمارد در حالی که حسن تنها توانسته بود یک دهم آن تعداد را برای نبرد جمل بسیج کند. اما حتی با تخمین محافظه‌کارانه‌تر بیست تا سی هزار برای علی و ارتش معاویه کمی بزرگتر، نبرد صفین یکی از بزرگ‌ترین و تأثیرگذارترین نبردهای تاریخ اسلام بود، و در چندین مرحله در هفته‌های بعدی به وقوع پیوست. پس از یافتن مسیر آبرسانی مسدود شده، پیش‌قراولان علی به فرماندهی اشعث بن قیس با انتقام‌جویی به نیروی سوری که راهشان را سد کرده بود حمله کردند، آنها را به عقب راندند و آب را برای ارتش تشنه پشت سرشان امن کردند. پس از روز فرات، که این پیروزی کوچک نامیده شد، ارتش‌ها دو روز در حالت ایستاده و مذاکرات ناموفق ماندند، و پس از آن بیش از یک هفته یورش روزانه و دوئل‌های شخصی بین فرماندهان نجیب‌زاده که تا 18 ژوئن ادامه یافت، هر ارتش اراده دیگری را می‌آزمود اما تمایلی به به کارگیری تمام قدرت خود نداشت. 19 ژوئن شاهد یک توافق آتش‌بس جدید بود که بیش از یک ماه طول کشید، در آخرین تلاش برای رسیدن به یک توافق صلح‌آمیز یا حداقل متقاعد کردن رهبران مخالف به تغییر موضع، اما این پیشنهادها موفق‌تر از قبلی‌ها نبودند - فرستاده‌ها هفته‌ها بین دو ارتش با پیام‌ها و رشوه‌ها رفت و آمد کردند، اما بن‌بست عمدتاً بدون تغییر باقی ماند. سرانجام، در 26 ژوئیه، دو ارتش در نبردی روبرو شدند که تقریباً بدون وقفه سه روز و سه شب طول کشید. روز اول نبرد بی‌نتیجه بود، عمدتاً شامل تبادل تیرها و یورش‌های سواره نظام، با تلفات فزاینده اما هیچ یک از طرفین به برتری قاطع‌ای دست نیافت. روز دوم معاویه را بسیار نزدیک به شکست علی دید، با این که حبیب بن مسلمه حمله عظیمی را رهبری کرد که جناح راست علی را به فرار واداشت و به سختی به مرکز او فشار آورد، ارتش او را به آشوب کشاند قبل از این که نیروهای کمکی به رهبری مالک اشتر بتوانند پیشروی سوری‌ها را متوقف کنند. عبدالله بن بدیل، که فرماندهی جناح راست علی را بر عهده داشت، تلاش کرد تا از مزیت لحظه‌ای خود با هجوم سواره‌نظامش به سمت چادر معاویه استفاده کند، اما محاصره و توسط نیروهای نخبه معاویه کشته شد. همچنین عمار بن یاسر کشته شد، که حضورش زبیر را در نبرد جمل این‌قدر ترسانده بود - که طبق روایت‌های طرفدار علی، پیشگویی پیامبر را محقق کرد که عمار توسط گروهی از مردان شرور کشته خواهد شد.
روز سوم معاویه تلاش‌هایش برای شکستن جناح راست علی را دوچندان کرد، با فرستادن متحدان حمیری خود به فرماندهی عبیدالله بن عمر: پسر بی‌آبروی خلیفه عمر، که نامش توسط یک قتل ناموسی غیرقانونی لکه‌دار شده بود، اما نسب‌شناسیش او را به یک ابزار سیاسی مفید برای خلیفه بالقوه معاویه تبدیل کرده بود. این بار، اما، جناح راست علی استوار ماند، و هر دو عبیدالله و رئیس قبیله حمیر ذوالکلاع را کشت و تلفات وحشتناکی وارد کرد. با گذشت روز، دو ارتش سرانجام به یک نبرد تن به تن عمومی کشیده شدند، دوئل‌ها، مانورها و تیراندازی‌هایی که روزهای قبل را تعریف کرده بودند، جای خود را به یک درهم‌ریختگی گیج‌کننده از شمشیرها و نیزه‌ها داد که بیشتر شب ادامه یافت. با نزدیک شدن صبح پس از خونین‌ترین شب جنگ داخلی، ارتش علی به نظر برتری داشت، با این که نیروهای معاویه را به عقب رانده بود و حتی او را مجبور کرده بود پس از یک حمله دیگر به اردوگاهش، چادرش را به مکانی امن‌تر منتقل کند. اما در نهایت، این قدرت اسلحه نبود که نتیجه نبرد را تعیین کرد. با رسیدن صبح، تعدادی از فرستادگان معاویه بین ارتش‌ها سوار شدند، با قرآن‌هایی بر نیزه‌هایشان به عنوان پرچم آتش‌بس، از علی درخواست کردند که داوری الزام‌آور را برای حل اختلافش با معاویه بپذیرد. اگرچه علی در نبرد برتری داشت، بسیاری از سربازانش، که پس از نبرد طولانی خسته شده بودند و تمایلی به ادامه جنگیدن با برادران دینی خود نداشتند، احساس کردند که این پیشنهاد جایگزین شرافتمندانه‌ای برای ادامه جنگ است و تشویق‌های مالک اشتر و دیگران برای ادامه جنگ را نادیده گرفتند. دست‌بسته، علی آتش‌بس و درخواست داوری معاویه را پذیرفت، و به نبرد پایان داد. در حالی که در آستانه پیروزی در جنگ بود، خلیفه علی اکنون در آستانه از دست دادن همه چیز در صلحی که در پی می‌آمد، قرار داشت.
هر طرف یک داور را نامزد کرد - عمرو بن عاص برای معاویه و، به طرز عجیبی، حاکم عزل شده کوفه ابو موسی اشعری برای علی، که با وجود دشمنی شخصی با علی، انتخاب محبوبی در میان ارتش عمدتاً کوفی علی بود. دو ارتش از میدان جنگ خارج شدند، با توافق‌هایی که دو داور در ماه‌های آینده ملاقات کنند تا قتل عثمان و خلیفه برحق را با قرآن به عنوان راهنمای خود به طور عادلانه قضاوت کنند. با این حال، بخشی از هواداران علی به شدت با داوری مخالفت کردند، و آن را خیانت به خدا می‌دانستند که تصمیم را به دست انسان‌های خطاپذیر بسپارند به جای این که اجازه دهند خدا در میدان نبرد پیروز را انتخاب کند. پیش از این که ابو موسی برای دور اول داوری حرکت کند، دو تن از پیروان علی، زُرعه بن برج و حرقوص بن زهیر، با علی روبرو شدند و خواستار ترک مذاکرات و بازگشت به جنگ با معاویه شدند. علی آنها را سرزنش کرد، و ادعا کرد که ترجیح می‌داد در صفین به جنگ ادامه دهد اما اکنون متعهد به احترام به عهدی است که بسته است. ناراضی، آنها شعار "حکم تنها از آن خداست" را برگزیدند، و در ماه‌های بعد پیروان جدیدی به دیدگاه آنها گرویدند. پس از بازگشت نیروهای علی به کوفه، این خوارج یا خارجیان، همانطور که بعدها نامیده شدند، به یک خار بزرگ در چشم علی تبدیل شدند، با مسخره کردن و انتقاد از او هنگامی که در مسجد نماز می‌خواند و اعلام این که هم علی و هم معاویه شایسته حکومت نیستند.
با افزایش این ناخشنودی، دو داور دو بار در طول سال بعد ملاقات کردند، هر بار برای هفته‌ها، و در نهایت در آوریل 658 حکمی به نفع معاویه صادر کردند که علی را از خلافت عزل می‌کرد. علی از پذیرش این تصمیم خودداری کرد، و آن را یک حمله سیاسی به جای یک قضاوت دینی واقعی اعلام کرد، اما این تصمیم مشروعیت او را به شدت آسیب زد و موقعیت او را در جنگ سرد جاری علیه معاویه تضعیف کرد. در همین حال، در کوفه، جنبش خوارج از یک مخالفت صرفاً گفتاری به یک شورش جدید در حال تبدیل بود، با این که عبدالله بن وهب فرماندهی جنبش را به عهده گرفت. با ترک کوفه در گروه‌های کوچک برای جلوگیری از شناسایی، ابن وهب نیروهایش را در کنار پل عبور از نهروان، یک کانال بزرگ که آب را از رود دجله در شمال شرقی مدائن می‌گرفت، تجمیع کرد. در همین حال، گروه‌های دیگر هم‌فکران خوارج در سراسر عراق، که نامه‌های مخفی از رهبری در کوفه دریافت کرده بودند، خانه‌های خود را ترک کردند تا به گروه ابن وهب بپیوندند، با درگیری‌های خشونت‌آمیزی که در نزدیکی بصره بین وفاداران به علی و گروهی از پانصد خوارج در حال ترک رخ داد. به نظر می‌رسد ابن وهب قصد داشت پس از تجمیع نیروهایش به پیشروی ادامه دهد، تا مدائن را فتح کند یا یک پایگاه قدرت مستقل در میان کوه‌های زاگرس ایجاد کند. با این حال، پس از وادار کردن هواداران باقی‌مانده‌اش به تأیید دوباره سوگند وفاداری به او، علی به سرعت کوفه را به تعقیب خوارج ترک کرد، و در ژوئیه 658 به نهروان رسید. با وجود خیانت آنها، علی تلاش کرد از نبرد اجتناب کند، با اشاره به این که اکنون آماده بازگشت به جنگ با معاویه است همانطور که آنها خواسته بودند و درخواست کرد که به جناح او بازگردند. برخی این کار را کردند، اما اکثریت حدود دو هزار شورشی سرسختانه در موضع خود باقی ماندند، که به برخی اختلاف‌نظرها در صفوف علی منجر شد. بسیاری از پیروان او احساس می‌کردند خوارج یک مشکل کوچک هستند، و باید به سادگی تا پس از شکست معاویه نادیده گرفته شوند. اما پس از این که چندین روستایی محلی توسط خوارج کشته شدند، واکنش علی سریع بود، با این که ارتش بسیار بزرگ‌ترش در 17 ژوئیه با خوارج درگیر شد. با تعصب شدید به آرمان خود، خوارج تسلیم نشدند، اما با کمتر از دو هزار نفر در مقابل چهارده هزار، نتیجه تقریباً قطعی بود. سوارهنظام علی خط مقدم را تحت فرمان ابو ایوب انصاری تشکیل دادند، با تیراندازان و پیاده‌نظامی که پشت سر آنها صف کشیده بودند. هنگامی که خوارج حمله کردند، سوارهنظام علی به دو گروه در وسط تقسیم شدند و به چپ و راست شتافتند، و اجازه دادند تیراندازان خوارج پیشرو را با تیرها باران کنند در حالی که سواران دور زده و به جناح‌های آنها حمله کردند. پس از یک درگیری کوتاه، خونین و عمدتاً یک‌جانبه، ارتش شورشی شکست خورد - بخش کمی از رحمتی که علی پس از نبرد جمل به شورشیان عایشه نشان داده بود، این بار وجود داشت، و اکثریت خوارجی که در میدان حاضر شده بودند، نابود شدند.
نبرد نهروان یک پیروزی قاطع برای علی بود، اما همچنین یک پیروزی بسیار تلخ، چون خلیفه تحت فشار مجبور شد پیروان سابق خود را با شمشیر بکشد در حالی که معاویه هر روز قدرتمندتر از قبل می‌شد. دو سال و نیم بعد از آتش‌بس ناخوشایند شاهد پیشرفت‌های بزرگ معاویه بود، با سرنگونی محمد بن ابی‌بکر در مصر و پاداش دادن به وفاداری عمرو بن عاص با بازگرداندن او به قدرت همانطور که وعده داده بود، در حالی که همزمان اتحادهای جدیدی در سراسر خلافت برقرار می‌کرد، و بسیاری اکنون او را خلیفه مشروع می‌دیدند. در آغاز سال 661، پس از دریافت مشورت از هواداران باقی‌مانده‌اش، علی تصمیم گرفت تهاجم دوم به سوریه را آغاز کند در حالی که هنوز قدرت به چالش کشیدن معاویه را داشت، و نیروهایش را برای یک لشکرکشی دیگر آماده کرد. این تهاجم برنامه‌ریزی شده، اما، هرگز اتفاق نیفتاد. در یک ملاقات در مکه، سه توطئه‌گر خوارج پیمانی بستند تا سه مردی را که مسئول جنگ داخلی می‌دانستند - علی، معاویه و عمرو بن عاص - ترور کنند. دو مورد از سه تلاش ترور ناموفق بود، اما در 28 ژانویه، هنگامی که علی در مسجد بزرگ کوفه نشسته و نماز می‌خواند، سومین قاتل - عبدالرحمن بن ملجم - از پشت با شمشیر زهرآلودی به او ضربه زد، و خلیفه را زخمی کرد که به مرگ انجامید و انتقام همرزمانش را که در نهروان کشته شده بودند، گرفت. با مرگ علی، تعداد کمی باقی ماندند که بتوانند خلافت معاویه را انکار کنند - پسر بزرگ علی حسن تحت فشار ادعای خود به تخت را رها کرد، و معاویه تقریباً بدون مخالفت قدرت را به دست گرفت.
فراتر از تغییر ساده در رهبری، فتنه اول، همانطور که جنگ داخلی شناخته شد، تأثیر عظیمی بر تاریخ اسلام داشت. این یک جنبش مذهبی و فرهنگی را که متحد، امپراتوری‌های قدرتمندی را فتح کرده بود، تقسیم کرد. حتی امروز، تقسیم‌بندی‌های بین فرقه‌های اصلی اسلام را هنوز می‌توان به فتنه اول و مرگ علی ردیابی کرد. نزدیک‌ترین هواداران علی مشروعیت معاویه و جانشینانش را رد کردند، و علی و خط خانوادگی او را به عنوان امامان الهام‌یافته الهی ارتقا دادند. با نام حزب علی یا شیعه علی، جنبش آنها امروز به عنوان اسلام شیعه قوی باقی مانده است، که اکنون به فرقه‌های خود تقسیم شده است. اکثریت مسلمانان، که صعود معاویه را پذیرفتند، به عنوان سنی شناخته می‌شوند - با اشاره به سنت، روش‌ها و نمونه‌های برگرفته از پیامبر. خوارج که در شمال آفریقا گسترش یافتند و ریشه دواندند، به عنوان یک نیروی منفور و متخاصم باقی ماندند که اغلب با همکیشان مسلمان خود و آنچه که خلفای فاسد و نامشروع می‌دیدند، درگیری داشتند. اگرچه فرقه آنها کوچک باقی ماند، اما در قلب شورش‌ها و قیام‌های متعددی در دوران اموی و قرن‌های بعد نیز قرار داشت. از درون صفوف آنها، اما، جامعه معتدل و بی‌طرف عبادی ظهور کرد، آیینی که اکنون در عمان غالب است. ماهیت رهبری در خلافت نیز برای همیشه تغییر کرد، با این که انتخابات که چهار خلیفه اول را انتخاب کرده بودند، جای خود را به جانشینی موروثی داد - قدرت برای 90 سال بعد در قبیله اموی باقی ماند، و پایان خلافت راشدین را رقم زد.
