ابوعلی، محدّث شیعی، از اصحاب امام جواد و امام هادی علیهماالسلام ، ظاهرا در اواخر سده دوم هجری تولّد یافت. اما آنچه مسلّم است اینکه وی در عصر امام رضا (شهادت: 203 ق) نوجوان بود. به همین دلیل، صاحب نظران نام او را در شمار اصحاب امام رضا علیه السلام ذکر نکرده اند. تاریخ وفات او به درستی روشن نیست، ولی از برخی مکاتبات او با امام هادی علیه السلام ، که پس از رحلت فرزند آن امام صورت گرفته است، برمی آید که وی تا اواخر عصر امام هادی (شهادت: 254 ق) حیات داشته و اندکی پس از نیمه نخست سده سوم درگذشته است. درباره نسبت او به «هاشمی»، با توجه به اینکه شرح حال او در هیچ یک از منابع نیامده است، نمی توان سخن قاطعی گفت، اما همین قدر می توان احتمال داد که وی با طایفه «بنی هاشم»، که گروهی از آن ها در کوفه سکونت داشتند، بی ارتباط نبوده است.
وی در محیطی علمی و مذهبی پرورش یافت و بیشتر دوران تحصیلی او در شهرهای کوفه و سامرّاء سپری شد. فرزندش، محمّد بن ابراهیم یعقوبی، از راویان حدیث است و احادیث متعددی از وی (یعنی از پدرش) نقل کرده. برادر بزرگ ترش، سلیمان بن داود یعقوبی، نیز از عالمان زمان خود بود که ابوعلی روایات متعددی از او فراگرفته است. از استادان او، کسی در منابع معرفی نشده است، اما احادیث بر جای مانده از او، که تماما از همین برادرش نقل شده اند، نشان می دهند که وی بیشترین معارف حدیثی را نزد برادرش فراگرفته است.
همچنین وی مکاتباتی با امام هادی علیه السلام داشت و برخی از مسائلش را به طور مستقیم از آن حضرت می پرسید. در یکی از این مکاتبه ها، وی از امام هادی علیه السلام درباره وضعیت فارس بن حاتم قزوینی (م. حدود 258 ق)، که پس از وفات فرزند امام هادی علیه السلام ادعای امامت کرده بود، پرسید و امام علیه السلام در این باره نوشت: «لا تحفلنَّ به و اِن أتاک فاستخفَّ به»، با او محفل نگیر و اگر نزد تو آمد او را حقیر بشمار. اکنون در جوامع روایی شیعه، احادیث اندکی از او باقی مانده که صاحب نظران درباره صحّت و درستی اخبار او سکوت کرده اند، اما از ارتباط او با امام هادی علیه السلام و حساسیت او در برابر شخصیت های مطرود جامعه مانند فارس بن حاتم، استفاده می شود که وی فردی حقیقت جو بوده است.
از شاگردان او دو نفر را می شناسیم که یکی ابوسعید سهل بن زیاد آدمی (م. بعد 255 ق) است که احادیثش ارزش سندی ندارند، و دیگری سندی بن ربیع کوفی (م. حدود 260 ق) است که ظاهرا فردی مورد اعتماد و راستگو بوده. از آثار او، جز روایات باقی مانده از او، چیزی معرفی نشده است.
