با به دست گرفتن خلافت، سلیمان وقت را تلف نکرد و اکثر فرمانداران و مشاوران وفادار برادر و پیشینیان خود را برکنار نمود، علیرغم موفقیت‌های چشمگیری که بسیاری از آنان در دوران پرافتخار ولید به دست آورده بودند. در سال‌های پایانی عمر ولید، او تلاش کرده بود سلیمان را از جانشینی خلع و به جای او پسرش عبدالعزیز را منصوب کند، اما موفق نشد. او حتی از فرماندارانش خواسته بود پیش از مرگش به عبدالعزیز بیعت کنند. با این حال، تعداد کمی حاضر شدند این موضع پرخطر را علیه سلیمان اتخاذ کنند، کسی که شانس بیشتری برای رسیدن به خلافت داشت. علاوه بر این، جانشینی پرتنش و حمایت حجاج — یکی از قدرتمندترین مردان خلافت — از عبدالعزیز، شکاف‌های عمیقی در دربار اموی ایجاد کرد و باعث شد سلیمان در هر گوشه‌ای دشمن ببیند. در نتیجه، وقتی موسی از تأخیر در ورود به پایتخت تا پس از مرگ ولید خودداری کرد تا سلیمان بتواند ادعای افتخار کند، هر دو — موسی و طارق — از مقام‌های خود عزل شدند و رسوا گردیدند.
قطیبة بن مسلم، که از طریق ترکیبی از پیروزی‌های نظامی و دیپلماسی زیرکانه، حاکمیت اسلامی را به بیشتر ماوراءالنهر گسترش داده بود، از سوی سلیمان پیشنهاد حفظ مقام خود را دریافت کرد، احتمالاً به دلیل پایگاه قدرتی بزرگی که قطیبه تحت فرمان داشت و تهدید جنگ داخلی. با وجود این تلاش برای آرام‌سازی، قطیبه — که گمان می‌برد سلیمان به محض احساس امنیت کافی به او خیانت خواهد کرد و از انتصاب رقیب دیرینه‌اش یزید بن مهلب به عنوان فرماندار جدید عراق و ایران ناراضی بود — سلیمان را غاصب خواند و سپاهیان خود را علیه خلیفه جدید بسیج کرد. متأسفانه برای قطیبه، موقعیت او هرگز به قدرت و امنیت موقعیت حجاج نبود، و تلاش او برای شورش علیه سلیمان باعث شد بسیاری از سربازانش، به ویژه اعراب تحت فرمانش، تحت فرماندهی وکیع بن ابی‌سود به او خیانت کرده و او را به قتل برسانند. اگرچه وکیع به عنوان فرماندار ماوراءالنهر جایگزین او شد، در سال‌های بعد بسیاری از دستاوردهای قطیبه در این منطقه در پی یک سری شکست‌ها و شورش‌ها از بین رفت، و کنترل اعراب بر ماوراءالنهر برای دهه‌های بعد ناپایدار باقی ماند.
فاتح مشهور سند، محمد بن قاسم، نیز به سرنوشتی مشابه دچار شد. به عنوان یکی دیگر از متحدان نزدیک حجاج که با به قدرت رسیدن سلیمان مخالفت کرده بود، ابن قاسم توسط سلیمان از قدرت عزل شد و بلافاصله توسط جانشینش — یزید بن ابی‌کبشه، فرماندار جدید سند — دستگیر و به یزید بن مهلب فرستاده شد تا تحت شکنجه و اعدام قرار گیرد. اندلس نیز که اخیراً فتح شده بود، با اعدام دو پسر موسی بن نصیر — فرمانداران افریقیه و اندلس — با خلأ قدرت مشابهی مواجه شد که به دوره‌ای از درگیری‌های داخلی خودتخریب‌گرانه منجر گردید. در حالی که ابن مهلب به سرعت جایگاه قدرتمندی را که حجاج مدت‌ها در اختیار داشت پر کرد و برای فتوحات جدید در شرق آماده شد، هرج و مرج در سرحدات دور غربی خلافت حاکم شد و تمرکز سلیمان به مناطق نزدیک‌تر معطوف گشت.
برای خلیفه‌ای که به دنبال جاودانه کردن نام خود در تاریخ بود، هیچ پیروزی‌ای نمی‌توانست با فتح قسطنطنیه رقابت کند — شهری که پیشتر در دوران خلافت معاویه یک محاصره چهارساله را دفع کرده بود و گفته می‌شد مورد توجه پیشگویی‌های خود پیامبر اسلام نیز بوده است. به نظر می‌رسد مقدمات محاصره پیش از به قدرت رسیدن سلیمان به عنوان خلیفه آغاز شده بود، چه تحت دستور مستقیم ولید و چه در دوره‌ای که سلیمان به عنوان حاکم موقت برای برادر در حال مرگش خدمت می‌کرد — امری که با توجه به سال‌های کودتا و آشوب که بیزانس را در دوران نسبتاً طلایی ولید تضعیف کرده بود، چندان عجیب نبود. در سال‌های پایانی ولید، حملات اعراب به آناتولی جسورانه‌تر و عمیق‌تر شده بود، به طوری که پسرانش عباس و مروان بن ولید و برادر ناتنی‌اش مسلمة بن عبدالملک در سال‌های ۷۱۱ و ۷۱۲ از کوه‌های توروس شمالی عبور کرده، میستیا در منطقه لیکائونیا را فتح کردند و تا آماسیه و چانقری امروزی در کنار دریای سیاه پیشروی نمودند. در مقابل، رومیان در همین دوره شاهد عزل سه امپراتور در کودتاها در طول همان پنج سال بودند.
در حالی که سلیمان سال ۷۱۵ را به تثبیت قدرت خود در خلافت و تقویت نیروهایش گذراند، در سال ۷۱۶ یکی از بزرگ‌ترین لشکرکشی‌های تاریخ خلافت آغاز شد — با یک ارتش زمینی تحت فرماندهی مسلمة بن عبدالملک (برادر خلیفه سلیمان) و یک ناوگان دریایی به رهبری عمر بن هبیره فزاری. با بهره‌گیری از منابع خلافتی که به مراتب گسترده‌تر از امپراتوری شدیداً تضعیف‌شده روم بود، به نظر می‌رسید شانس به شدت به ضرر رومیان بود. متأسفانه، لشکرکشی عظیم سلیمان و مسلمه یک ضعف بزرگ با حمله قبلی معاویه مشترک داشت: اتکا به همکاری با شورشیان رومی. معاویه به ژنرال شورشی ارمنی، سابوریوس — که در آن زمان کنترل بخش بزرگی از آناتولی را در دست داشت — امید بسته بود تا در راهپیمایی به سمت قسطنطنیه به ارتش او کمک و تدارکات برساند، اما مرگ نابهنگام او سال‌ها برنامه‌ریزی را نقش بر آب کرد و اولین لشکرکشی اعراب را در قلمروی دشمن بدون تدارکات یا متحد رها کرد، به طوری که گرسنگی و تلفات بیش از ارتش‌های مدافع دیوارهای قسطنطنیه یا آتش یونانی که ناوگان آنان را در بسفر نابود کرد، باعث شکستشان شد.
مسلمه، که ظاهراً امیدوار بود از کار دشوار محاصره و یورش به دیوارهای تئودوسی قسطنطنیه اجتناب کند، قصد داشت با دخالت مستقیم در سیاست بیزانس از نیاز به تصرف شهر به زور جلوگیری کند: او از اختلافات داخلی و کودتاهای مکرر در دربار که امپراتوری روم شرقی را تضعیف کرده بود سوءاستفاده کرد و از مدعی خود برای تاج‌وتخت بیزانس حمایت نمود — استراتیگوس لئوی ایسوریایی، که نقش او در آستانه محاصره در روایات رومی و عربی تا حدی متفاوت است. در روایت رومی، ابتدا سلیمان بن معاد با لئو وارد مذاکره شد و در جریان محاصره آموریون، پیشنهاد داد که اگر شهر لئو را به عنوان امپراتور بپذیرد، محاصره را پایان داده و شهر را عفو خواهد کرد. بر اساس این روایت، سلیمان قصد داشت لئو را — که از دشمنی او با امپراتور تئودوسیوس (که در مه سال قبل در یک کودتا به قدرت رسیده بود) آگاه بود — اسیر کند و او را متقاعد سازد که با حمایت اعراب تاج‌وتخت را تصاحب کرده و امپراتوری را به اطاعت و خراجگزار تبدیل کند. با این حال، با وجود مکاتبه با سلیمان و سپس مسلمه، در روایت رومی لئو هرگز به دست اعراب نیفتاد یا هیچ پیمانی با مهاجمان نبست: او با حیله از دام آنان گریخت، دفاع از مناطق روستایی را سازماندهی کرد، پیشقراولان سلیمان بن معاد را شکست داد و سپس با تصرف خاندان سلطنتی در نیکومدیا با ارتش خود، کنترل امپراتوری را از تئودوسیوس ضعیف و منفور به دست گرفت.
در مقابل، روایت عربی حاکی از آن است که لئو برای مذاکره با خلیفه سلیمان تماس گرفت و فریبکارانه به او اطمینان داد که قسطنطنیه را به دست اعراب خواهد سپرد. اگرچه هر دو روایت می‌توانند تا حدی تحریف شده باشند، اما میزان اعتمادی که مسلمه بعدها در طول محاصره به لئو نشان داد، بسیار عجیب می‌نماید اگر تعاملات اولیه آنان به کوتاهی و خصومتی که در روایت تئوفانس اعتراف‌کننده آمده باشد، بوده است. این امر حداقل نشان می‌دهد که برخی توافقات بین آن دو صورت گرفته بود، چه روایات عربی کاملاً درست باشند یا نباشند. لازم به ذکر است که تاریخ‌ها نیز در این دو روایت تا حدی ناسازگار هستند، به طوری که تاریخ طبری محاصره را کمی زودتر از تئوفانس ثبت کرده است — در حالی که هر دو بینش ارزشمندی ارائه می‌دهند، روایت اخیر تاریخ‌های سازگارتری دارد و به رویدادها نزدیک‌تر است.
در هر صورت، زمستان ۷۱۶ به این مرحله اول از لشکرکشی پایان داد — مرحله‌ای که شاهد پیشروی‌های محدود اعراب در آناتولی، سرنگونی یک امپراتور و دسیسه‌های بسیاری بود، اما درگیری مستقیم کمی بین دو ارتش رخ داد. سال در جبهه شرقی فعال‌تر بود، اگرچه اعراب در این جبهه نیز به موفقیت چندانی دست نیافتند. یزید بن مهلب حمله گسترده‌ای به گرگان و طبرستان — مرکز سلسله دابویگان و یکی از آخرین بقایای مستقل امپراتوری ساسانی که تا آن زمان با پرداخت خراج به خلافت، حاکمان قدیمی خود را حفظ کرده بود — ترتیب داد. او در ابتدا موفق شد شهر دهستان را با محاصره تصرف کند و قتل‌عام بزرگی به راه انداخت که شهرت او را به خشونت تقویت کرد و باعث شد منطقه گرگان بدون مقاومت تسلیم شده و یک فرماندار عرب بپذیرد. اما با ادامه پیشروی به سمت غرب در طبرستان، یزید موفقیت کمتری داشت. اسپهبد فرخان بزرگ از همسایگان شرقی خود در منطقه دیلم درخواست کمک نظامی کرد و با استفاده از گذرگاه‌های کوهستانی باریک، ارتش بسیار بزرگ‌تر یزید را متوقف ساخت. ارتش او ابتدا عقب‌نشینی کرد و ظاهراً در اولین برخورد شکست خورد، اما سپس مسلمانان را به یک کمین کشاند، جایی که از زمین مرتفع با تیر و سنگ مورد حمله قرار گرفته و مجبور به عقب‌نشینی شدند. با این که یزید هنوز ارتش بسیار قوی‌تری در اختیار داشت، مقاومت موفقیت‌آمیز فرخان اشراف گرگان را که پیشتر تسلیم شده بودند، به قیام واداشت و آنان بیشتر نگهبانان عرب مستقر شده را در شب کشتند. با قطع شدن خطوط تدارکات و وجود نیروهای دشمن در پشت سر، یزید مجبور به درخواست صلح شد و هرچند با تهدید به حمله مجدد، خراج بیشتری به دست آورد، اما با وجود منابع گسترده در اختیارش، در مأموریت فتح کاملاً شکست خورد.
در ماوراءالنهر، وکیع بن ابی‌سود نتوانست همان احترامی را که قطیبه در میان افراد بومی داشت به دست آورد، که منجر به آشفتگی و از دست رفتن تدریجی کنترل خلافت بر بخش زیادی از منطقه شد. با این حال، تمرکز اصلی وکیع به نظر می‌رسید بیشتر روی رقابت فزاینده با یزید بود تا حفظ نظم در استان خود. پس از زمستان‌گذرانی در کیلیکیه، عمر در سال ۷۱۷ دوباره به دریا رفت و با حفظ موقعیت مسلط در مدیترانه، همچنان از مواجهه با آتش یونانی در بسفر هراس داشت، در حالی که مسلمه سرانجام در ژوئن به دیوارهای قسطنطنیه رسید. شاید با درس گرفتن از شکست‌های گذشته، ارتش مسلمه ذخایر عظیمی از غذا برای یک محاصره طولانی آورده بود، با تدارکات بیشتری که تحت محافظت ناوگان عمر از مصر و شام آورده می‌شد، و کشتی‌های حمل‌ونقل و کشتی‌های جنگی درومون به صورت کاروانی حرکت می‌کردند تا ایمن بمانند. برای نشان دادن تعهد نیروهایش به محاصره — هرچقدر هم که طول بکشد — مسلمه به نیروهایش دستور داد از ذخایر غنی تدارکاتی که آورده بودند نخورند، بلکه به جای آن دیوارهای کوتاه و خانه‌های چوبی برای محاصره‌کنندگان اطراف شهر بسازند و در زمین محصول بکارند تا از آن‌ها تغذیه کنند. با تأمین غذا از طریق غارت و به زودی از طریق برداشت‌های خودشان، نیروی عظیم محاصره‌گر مسلمه تقریباً به یک شهر کوچک تبدیل شد و به نظر می‌رسید کاملاً برای تحمل زمستان سرد پیش رو آماده است.
اما بر اساس روایات عربی محاصره، لئو و مسلمه در این مرحله هنوز در حال مذاکره بودند. لئو همچنان به دروغ ادعای وفاداری به شاهزاده اموی را داشت و می‌گفت تمام تلاش خود را می‌کند تا اتباعش را به تسلیم شدن متقاعد کند. در نسخه اصلی داستان، لئو ادعا می‌کند که ساکنان قسطنطنیه در ازای ذخایر غذایی اعراب برای تغذیه شهروندان گرسنه و محصور شده تسلیم خواهند شد تا حقیقت وعده‌های مسلمه درباره امنیت در ازای تسلیم را نشان دهد. وقتی مسلمه موافقت کرد، آن‌ها شبانه ذخایر غذا و محصولات ارتش عرب را غارت کردند و صبح به مواضع دفاعی خود بازگشتند. در روایتی دیگر، مسلمه حتی به اصرار لئو که ادعا می‌کرد قسطنطنیه بدون نبرد تسلیم خواهد شد اگر مطمئن شود مسلمه در حال آماده‌سازی برای یک حمله بزرگ است، خودش تدارکاتش را آتش زد. در ظاهر، این روایات ممکن است غیرمحتمل به نظر برسند، اما در این مرحله مسلمه از موضع قدرت مذاکره می‌کرد — با کشتی‌های حمل‌ونقل از تونس و مصر که او را دوباره تأمین می‌کردند، خطر چندانی متوجه او نبود و یک فرصت برای اجتناب از محاصره دشوار ممکن بود بیش از حد وسوسه‌انگیز باشد.
چه این داستان‌ها درست باشند یا صرفاً راهی برای مقصر دانستن یک فرمانده در شکست نظامی بزرگ‌تر، برتری دریایی اعراب دیری نپایید. با ادامه رسیدن ناوگان و انتقال سربازان برای محاصره — بسیاری از آن‌ها از کنار شهر تا محله اورتاکوی امروزی استانبول به سمت شمال حرکت می‌کردند — کاروان‌ها مجبور بودند از نزدیکی شاخ طلایی بگذرند، جایی که با زنجیر مسدود شده بود و ناوگان روم که منتظر فرصت مناسب بود در آنجا لنگر انداخته بود. برای کشتی‌های بزرگ و سنگین حمل‌ونقل، حرکت به سمت شمال بر خلاف جریان داردانل نیاز به باد جنوبی داشت. در اول سپتامبر، یک تغییر نامطلوب آب‌وهوایی باعث شد بیست تا از این کشتی‌های بزرگ و حیاتی از نظر لجستیکی، با تغییر جهت باد، به همراه جریان آب به سمت عقب و دور از محافظانشان رانده شوند. ناوگان روم درنگ نکرد و از شاخ طلایی بیرون آمد تا آن‌ها و خدمه‌شان را با آتش مایع غسل دهد — ضربه‌ای سخت با توجه به زمستان سرد در پیش رو و تأثیری منفی بر روحیه ناوگان عرب. به گفته طبری، محاصره‌کنندگان مجبور شدند هر چیزی به جز خاک بخورند و در زمستانی سخت خارج از شهر رنج زیادی کشیدند.
در این حال و هوای غم‌انگیز، خلیفه سلیمان در اکتبر ۷۱۷ آخرین نفس‌هایش را کشید. در دوران کوتاه خلافتش، هیچ یک از بلندپروازی‌های بزرگش به ثمر نرسید: حمله یزید بن مهلب شکست خورده بود و حمله به قسطنطنیه متوقف شده بود. میراثی که سلیمان برای ساختن آن بسیاری را کشته و به شدت تلاش کرده بود، عمدتاً به شکست‌ها و ناکامی‌ها محدود می‌شد و تحت‌الشعاع پیروزی‌های پیشینیانش قرار گرفت. سلیمان ابتدا قصد داشت پسرش ایوب را به جانشینی منصوب کند، اما ایوب اوایل همان سال در اثر طاعونی درگذشته بود که احتمالاً علت مرگ سلیمان نیز بود. در عوض، او در بستر مرگ پسر عموی جوانترش عمر بن عبدالعزیز — متحد دیرینه سلیمان که فرماندار مدینه بود — را به عنوان جانشین خود معرفی کرد، که باعث تعجب و ناخشنودی نزدیکانش مانند برادرانش یزید و هشام شد، اگرچه به یزید قول جانشینی پس از عمر داده شد.
اتفاقی نبود که عمر دوم تازه تاج‌گذاری کرده، نامش با خلیفه دوم افسانه‌ای، عمر بن خطاب، یکسان بود — او از طرف مادر نتیجه عمر بن خطاب بود، ارتباطی پرافتخار که بر آن تأکید زیادی می‌کرد. با رسیدن بهار، فشار بر ارتش عرب محاصره‌کننده قسطنطنیه افزایش یافت. از دست دادن کشتی‌های تدارکاتی در پاییز گذشته، برتری کشتی‌های رومی در نبرد را تأیید کرده بود. با این حال، ناوگان لئو به اندازه‌ای نبود که بتواند به طور فعال خارج از داردانل گشت‌زنی کند یا حرکت کشتی‌های عرب را به طور ایمن شناسایی کند. با آمدن بهار، ناوگان‌های بزرگی از مصر و تونس با حمل تدارکات از مدیترانه به محاصره‌کنندگان رسیدند. آن‌ها با حفظ فاصله از قسطنطنیه، مخفیانه در نقاط مختلف — از خالکدون تا دهانه خلیج نیکومدیا در سمت آسیایی استانبول امروزی — پهلو گرفتند. با این حال، خدمه این ناوگان‌ها بیشتر مسیحیان قبطیِ مصری بودند که هزاران نفر از آن‌ها پس از فتح شمال آفریقا توسط حسن بن نعمان به کارگاه‌های کشتی‌سازی تونس منتقل شده بودند. با رسیدن ناوگان‌ها به خاک روم، شورش‌های سازمان‌یافته‌ای در میان خدمه مصری ناوگان عرب رخ داد، به طوری که آن‌ها کنترل برخی کشتی‌ها را به دست گرفتند، در حالی که بسیاری دیگر فرار کرده و به میان همکیشان مسیحی خود در قسطنطنیه پناه بردند.
با فلج شدن ناوگان‌ها و از دست دادن تعداد زیادی از خدمه، و با اطلاع لئو از محل ناوگان عرب و ضعف ناگهانی آن‌ها به واسطه فراری‌ها، ناوگان روم یک بار دیگر از شاخ طلایی بیرون آمد و تقریباً تمام ناوگان عظیم عرب را تصرف یا نابود کرد. اگرچه ارتش زمینی ابتدا مقاومت کرد، اما رومیان برای این مدت برتری دریایی کامل را به دست آورده بودند و محاصره‌کنندگان را از تدارکات یا تقویت مؤثر قطع کردند، در حالی که ارتش به دلیل غیرقابل عبور بودن داردانل تقسیم شده بود. ورود خانات بلغارستان — تحت حکومت متحد لئو، خان ترول — به جنگ، فاجعه بیشتری برای اعراب به همراه آورد. با قطع شدن راه عقب‌نشینی محاصره‌کنندگان در سمت اروپایی داردانل به دلیل نبود کشتی برای عبور دادن آن‌ها، بخش عمده‌ای از ارتش دلسرد — که مجبور شده بود برای یافتن غذا در مناطق روستایی پراکنده شود و برای حمله یک ارتش سواره سریع‌التحریر آماده نبود — شکست خورده و قتل‌عام شد.
با نابودی ارتش در سمت اروپایی، شکست‌های کوچک‌تر از رومیان در آسیا و قحطی گسترده، عمر لشکرکشی بزرگ را خاتمه داد و از پسر عمویش مسلمه خواست به خانه بازگردد، در حالی که بیش از بیست هزار نفر بر اثر گرسنگی، آتش یونانی یا سواران بلغار جان باخته بودند. این فاجعه دولت اموی را تضعیف کرد و به نوعی نقطه عطفی شد — اگرچه عمر به دلیل اصلاحات سیاسی‌اش به خوبی به یاد آورده می‌شود، این واقعه عملاً پایان فتوحات بزرگ امویان را رقم زد. بیش از فقدان نیروی انسانی و کشتی‌ها در قسطنطنیه، گسترش بیش از حد و ظهور فرمانداران قدرتمند، توانایی امویان را در اعمال قدرت به بیرون تضعیف کرد — در حالی که قبلاً نیز سرحدات ماوراءالنهر و اندلس تقریباً کاملاً به حال خود رها شده بودند، با حمایت کمی از شام دورافتاده، و هرج و مرج و درگیری‌های داخلی قدرت خلافت را در این مناطق دوردست تحلیل برده بود.
تنها چند سال قبل، امویان در اوج قدرت به نظر می‌رسیدند، با فاتحان نامداری که خلافت را در همه جبهه‌ها گسترش می‌دادند — مرگ این ژنرال‌ها و رهبران برجسته به دست سلیمان، تنها پیش‌درآمدی بر پایان عصر گسترش‌طلبی بود که آن‌ها پیشگامش بودند. عمر در دوران کوتاه و عمدتاً صلح‌آمیز خلافتش تلاش کرد برخی از این مشکلات را حل کند — رفتار نامناسب با مسلمانان غیرعرب، که در دهه‌های گذشته عامل شورش‌های مکرر بود، بهبود یافت، با معاف شدن همه مسلمانان (و نه فقط اعراب) از جزیه، و تلاش‌هایی نیز برای آشتی با شیعیان صورت گرفت. با این حال، این دوره عموماً به عنوان آغاز رکود و افولی در نظر گرفته می‌شود که تا سرنگونی امویان حدود سه دهه بعد ادامه یافت.
