نخستین خلیفه عباسی، ابو العباس سفاح بود.سفاح به معنای کسی است که خون فراوان می ریزد .این لقب به نوعی، از القابی است که در برخی از روایات منسوب به پیامبر ص به «مهدی امت» داده شده است.مانند لقب منصور، هادی، مهدی، رشید، امین و مأمون.جالب آن که به نقل از مسعودی مورخ، لقب نخست وی مهدی بوده است.در جای دیگری اشاره کردیم که عباسیان، به مانند علویان، گرایش های شیعی داشتند، اما به سرعت برای حفظ حکومت خود، عقاید مذهبی شان را تغییر دادند.با این حال، آثاری از این گرایش، همانند اعتقاد مزبور که به نوعی سایر مسلمانان هم به آن اعتقاد داشتند، در اندیشه های مذهبی برخی از آنها باقی ماند.وی در نخستین خطبه اش از عمل به کتاب خدا و سنت رسول سخن گفت و افزود که پس از پیامبر ص تنها دو امام به حق حکومت کرده اند: یکی امام علی ع و دوم خود او.
سفاح برای اطمینان بر حفظ حکومت، تمامی بلاد مهم را به اعضای خانواده اش واگذار کرد : عبد الله بن علی در شام، صالح بن علی در مصر و فلسطین، عبد الصمد بن علی بر جزیره، داود بن علی در حجاز، عیسی بن علی در فارس، و سلیمان بن علی در بصره و..
نخستین اقدام سفاح و دستگاه عباسی، برافکندن ریشه امویان بود.تقریبا هر اموی که شناخته شده بود، به قتل رسید.عباسیان، قبرهای امویان را در شام شکافتند و جنازه های آنها را به آتش کشیدند.تنها قبری که استثنا شد، قبر عمر بن عبدالعزیز بود.داود بن علی عباسی، در حجاز اعلام بخشش کرد و پس از آن که امویان از پنهانگاه ها بیرون شدند، آنها را کشت .زمانی که سفاح کوشید تا امویانی را که در عراق به وی پناه آورده بودند ببخشد، شاعری وی را به خاطر بخشش امویان ملامت کرد و پس از شعر او بار دیگر امویان پناهنده به قتل رسیدند.
در برخی از مناطق شامات، بارها بقایای امویان و یا فرماندهان آنها سر به شورش برداشتند، اما با شدت هر چه تمام تر سرکوب شدند.سخت گیری بر ضد امویان تا آن اندازه بود که آنها، به سرعت شامات را رها کرده به شمال افریقا در دورترین نقاط گریختند و در اندلس دولت اموی را بنیاد گذاشتند.
سفاح پس از چهار سال خلافت، در سال 136 هجری درگذشت.
دکتر حسن ابراهیم حسن در کتاب «تاریخ سیاسی اسلام» راجع به سفاح می گوید:
ابوالعباس عبدالله بن محمد بن علی ملقب به سفاح نخستین خلیفه عباسی بود. پدر وی محمد در آخر دوران اموی در بسط دعوت عباسیان کوشش فراوان کرد و به سال 125 ه بمرد و کار دعوت را به فرزند خویش ابراهیم ملقب به امام سپرد. ابراهیم امام به دست مروان خلیفه اموی محبوس و مسموم شد و کار دعوت بدست ابوالعباس افتاد. وی به کوفه رفت (132) هفته ای چند نهان می زیست و عاقبت به اصرار پیروان خود دعوت را آشکار کرد و به عنوان خلافت بدو سلام گفتند. ابوالعباس از برادر خود منصور کوچکتر بود اما چون مادرش عرب بود وی را برای خلافت مناسب تر دیدند که مادر منصور کنیز بود. آغاز خلافت ابوالعباس روز سوم ماه ربیع الاول سال 132 هجری بود.
ابوالعباس به روز جمعه به عنوان خلافت با مردم نماز کرد و بر منبر ایستاد و خطبه خواند امویان بر منبر می نشستند و مردم از ابتکار وی خشنودی کردند و گفتند: ای عموزاده پیمبر سنت دیرین را زنده کردی. ابوالعباس در خطبه خویش از فضل خاندان محمد (ص) سخن آورد و از قبایح امویان یاد کرد که خلافت را غصب کرده بودند و مرتکب اعمال زشت شده بودند و با اهل بیت پیمبر ظلم کرده بودند. سپاه شام را ملامت کرد و از ستایش کوفیان به تفصیل سخن کرد و عطای ایشان را بیفزود که همه مخلصان خاندان عباسی بودند. از خراسانیان نیز که وی را در کار قیام دولتش یاری کرده بودند تمجید کرد و در پایان خطبه گفت: «من خون ریز بی باکم و انتقامجوی...» از اینجا توان دریافت که وی مصمم بود هر که مانع مقاصد وی شود خونش را بریزد آنگاه از منبر فرود آمد و به قصر امارت رفت و ابوجعفر برادر خویش را در مسجد گذاشت تا از مردم بیعت بگیرد و وی تا شب بدینکار مشغول بود.
پس از اتمام کار بیعت، ابوالعباس به شهر انبار رفت که در مغرب فرات بود و تا مدخل بغداد ده فرسخ فاصله داشت. این شهر را شاپور پسر هرمز یکی از پادشاهان ایران بنا کرده بود، سفاح بنای آن را تجدید کرد و قصرها در آن ساخت از پس وی منصور در انبار قصری بزرگ ساخت و آنجا را پایتخت خود کرد و به نام هاشم جد خاندان هاشمیان هاشمیه نامید.
سفاح بیشتر ایام خویش را به سرکوبی سرداران عرب گذرانید که با امویان همکاری کرده بودند و ریشه امویان را قطع کرد چنانکه از این خاندان بجز عبدالرحمن داخل که دولت اموی اندلس را بنیان نهاد کسی از دست وی جان نبرد و هم از قتل یاران خویش که با وی در بنیاد دولت کمک کرده بودند دریغ نکرد. ابوسلمه خلال را که در بسط دعوت عباسیان سهمی بزرگ داشت بکشت قصد کشتن ابومسلم را نیز داشت اما مرگش در رسید و امکان اینکار نیافت. ابن هبیره یکی از سرداران مروان اموی را نیز با آنکه امان داده بود ناجوانمردانه بکشت.