اشاره کردیم که پس از کناره گیری معاویه دوم، مروان بن حکم بر سریر قدرت نشست. پس از وی در سال 65 هجری فرزندش عبد الملک به خلافت رسید که قدرتمندترین خلیفه مروانی است. مشکل مهم او عبد الله بن زبیر در مکه بود که ادعای خلافت داشت. زمانی که شام آشوب های پس از کناره گیری معاویه دوم را پشت سر می گذاشت، عراق و حجاز و نیز سرزمین های شرق اسلامی در اختیار عبد الله بن زبیر قرار گرفت، گرچه او برای غلبه بر عراق دشواری هایی مانند قیام مختار را تجربه کرد.
عبد الملک پس از گذشت چند سال از آغاز خلافتش، و آنگاه که موقعیتش را در شامات کاملا استوار کرد، ابتدا راهی عراق شد تا آن منطقه حساس را از دست خاندان زبیری به در آورد. نیروهای شام در جنگ با مصعب بن زبیر و پس از کشتن وی عراق را در سال 72 هجری متصرف شدند. پس از آن عبد الملک می بایست مکه را از سلطه عبد الله بن زبیر به درآورد. به همین هدف، حجاج را به سوی مکه فرستاد تا دولت عبد الله بن زبیر را براندازد. حجاج چندی مکه را محاصره کرد و عاقبت با کشتن عبد الله در سال 73 هجری، قدرت زبیریان را به طور کلی از بین برد. بدین ترتیب عبد الملک پس از گذشت نه سال، توانست وحدت سیاسی سرزمین های اسلامی را به زور شمشیر بازگرداند.
عبد الملک، حجاج را که به خشونت و خون ریزی شهرت داشت، به حکومت عراق گماشت تا با سرکوبی مخالفان، قدرت امویان را در این منطقه حفظ کند. وی تا حدود بیست سال پس از آن حکومت عراق را در اختیار داشت و این منطقه را با خشونت هر چه تمام تر و با روشی سخت گیرانه اداره کرد. با این حال، شورش های فراوانی در همین دوره پدید آمد. حجاج بیش از هر چیز به حکومت اموی وفادار بود و در راه تثبیت دولت اموی از هیچ کاری، حتی کشتن بهترین و پاک ترین مسلمانان خودداری نمی کرد. همو یک بار گفته بود«خلیفه خدا روی زمین، مهم تر از رسول خدا - ص - در روی زمین است، زیرا رسول فقط یک پیام رسان است، اما خلیفه حافظ جان و مال مردم از سوی خدا! »گفته اند که وی در طول حکومت خود بیش از یک صد و بیست هزار نفر را کشته است.
حجاج برای جلوگیری از نفوذ خوارج که به نام ازارقه مشهور بودند و نامشان را از یکی از رهبرانشان(نافع بن ازرق)گرفته بودند، تلاش های زیادی کرد. وی شهر واسط را در حاشیه غربی رود دجله بنا کرد و مردمانی از شامیان را در آن سکونت داد و خود در همان جا استقرار یافت. او برای جلوگیری از شورش ها نیازمند مردم شام بود، چون نمی توانست به عراقی ها اطمینان داشته باشد. وی شخصی با نام مهلب بن ابی صفره را مامور جنگ با خوارج - که در شهرهای جنوبی ایران تسلط داشتند و گاه تا بصره می آمدند - کرد. مهلب طی سال ها توانست خوارج را سرکوب کرده نفوذ آنها را به دورترین نقاط در جنوب شرقی ایران محدود کند.
داستان این نبردها، که در یک سو خوارج به صورت نامنظم و از سوی دیگر، سپاه حکومت به صورت یک ارتش منظم حضور داشتند، یکی از طولانی ترین ماجراهای جنگی این دوره می باشد.
حجاج پس از سرکوب خوارج، سپاهی را برای توسعه فتوحات در جنوب شرق ایران اعزام کرد که بخش عمده آنها عراقی ها بودند. فرماندهی آنها را عبد الرحمان بن محمد بن اشعث عهده دار بود که به سرعت سر به شورش برداشت.