کنیه او در منابع ذکر نشده، ولی ملقّب به «شیبانی» است. او فقیه، محدّث و از اصحاب مورد اعتماد امام هادی و امام حسن عسکری علیهماالسلام بود. از تاریخ تولّد و وفات او اطلاع درستی نداریم، اما شاگردی او نزد صفوان بن یحیی (م 210 ق) و مشاهده نام او در شمار اصحاب امام جواد علیه السلام (م 220 ق) گواه آنند که وی در اواخر سده دوم (حدود 190 ه) تولّد یافته است. همچنین وفات او با توجه به برخی از شاگردانش، که تا 306 ه حیات داشته اند، می بایست در دهه های پایانی سده سوم (حدود 280 ه.) اتفاق افتاده باشد. روایت شیخ کلینی (م 329 ق) نیز با یک واسطه از او حاکی از آن است که وی سده چهارم را درک نکرد و در اواخر سده سوم زندگی را به انجام رساند. وی در قم چشم به جهان گشود و احتمالاً محل وفات او کوفه بوده است. پدرش عبدالجبار ابی صهبان در قم شهرتی داشت و شیخ طوسی در معرفی صاحب شرح حال، بیشتر بر کنیه پدرش تکیه دارد و او را «ابن ابی صهبان» معرفی می کند.
وی ظاهرا تحصیلات خود را در قم آغاز نمود و به اتفاق معاصرش احمد بن محمّد بن خالد برقی (م 274 ق) نزد آدم بن اسحاق اشعری قمی شاگردی نمودند. سپس او برای تکمیل تحصیلات خود به عراق آمد و در کوفه ساکن شد و احتمالاً در آنجا با طایفه «بنی شیبان» هم پیمان شد و از همین رو، ملقب به «شیبانی» گشت. وی در کوفه نزد استادان بلندآوازه ای همچون صفوان بن یحیی (م 210 ق)، حسن بن علی بن فضّال کوفی (م 224 ق)، محمّد بن اسماعیل بن بزیع، محمّد بن ابی عمیر (م 217 ق)، محمّد بن سنان و علی بن مهزیار اهوازی کوفی (م حدود 255 ق) شاگردی نمود و در فقه و حدیث و همچنین در مباحث کلامی به حد کمال رسید. از استادان دیگر او عبدالرحمن بن ابی نجران (م حدود 255 ق) و اسحاق بن جعفر (فرزند امام صادق علیه السلام ) هستند.
از جمله معاصران کوفی او، فضل بن شاذان نیشابوری (م 260 ق) است که با هم نزد صفوان بن یحیی (210 ق) استماعاتی داشته اند. ظاهرا وی در کوفه اقامت دایم داشته و بسیاری از محدّثان قمی در کوفه از او حدیث شنیده اند. از جمله شاگردان او، ابوعلی اشعری، احمد بن ادریس قمی (م 306 ق)، محمّد بن یحیی عطّار قمی (استاد کلینی)، سعد بن عبداللّه اشعری (م 301 ق)، محمّد بن حسن صفّار قمی (م 290 ق) و عبداللّه بن جعفر حمیری (م بعد 297 ق) هستند. وی در کوفه مکاتبات متعددی با امام حسن عسکری علیه السلام داشت و به طور مستقیم از آن امام جواب می گرفت. مکاتبات او با امام حسن عسکری علیه السلام چندان بود که برخی احتمال داده اند وی زمانی خادم آن حضرت بوده است. صاحب نظران روایات و شنیده های او را کاملاً صحیح و قابل استناد می دانند.
از آثار قلمی او چیزی در منابع گزارش نشده است، اما باید اذعان داشت که وی یکی از فقها و محدّثان پرکار بود و اکنون احادیث بسیاری از او در جوامع روایی شیعه به جای مانده اند. شاید به همین دلیل، طوسی در الفهرست خود، نام او را به طور مستقل ذکر نموده، با اینکه کتاب یا رساله ای از او نقل نکرده است.