كان واسع الرواية والحفظ وقال الخطيب كان أحد الحفاظ المحمودين صحب بن عقدة وعنه أخذ الحفظ وله تصانيف كثيرة في الأبواب والشيوخ والتواريخ وكان كثير الغرائب ومذهبه في التشيع معروف وقال الحاكم سمعت أبا علي الحافظ يقول كنت أحببت أئمة من الذي يحفظون شيخا واحدا أو ترجمة واحدة أو بابا واحدا فقال له أبو إسحاق بن حمزة يابا علي لا تغلط في بن الجعابي فإنه يحفظ كثيرا فخرجنا من عند بن صاعد وهو في طريق بعيد فقلت له يابا بكر أيش اسند الثوري عن منصور فعرضها فقلت له أيش عند أيوب عن الحسن فعرضها فما زلت أخبره من حديث مصر الى الشام الى العراق الى آفراد الخراسانيين وهو يحدث فقلت أيش روى الأعمش عن أبي صالح وعن أبي هريرة وابن معبد جميعا فأخذ يسرد حتى ذكر بضعة عشر حديثا يحيرني حفظه وقال أبو الحسن بن زرقويه كان بن الجعابي يملي فيملي السكة التي يملي فيها والطريق وما كان يملي الأحاديث بطرقها الا من حفظه وذكر أبو عبد الله بن بكير عن بعض أهل الحديث بن أبي المظفر أملى مجلسا قال فلقيت بن الجعابي فسألني عنه وقال لي ان شئت اذكر لي أسانيد أحاديثه واذكر لك المتون أبو بالعكس فقلت اذكر المتن فقال افعل فقلت حدث كذا فقال هو عنده عن فلان فقلت حدث كذا فقال هو عنده عن فلان الى أن أتى الى آخر المجلس لم يخطىء في إسناد منها وقال الحاكم قلت للدارقطني بلغني ان بن الجعابي تغير بعدنا فقال وأي تغير فقلت هذا فهمه في الحديث قال أي والله قال حدث عن الخليل بن أحمد صاحب العروض بعشرين حديثا بأسانيد ليس له فيها أصل وقال الخطيب حدثني عيسى بن أحمد الهمداني سمعت أبا الحسن بن زرقويه يقول كنت عند الجعابي فجاء قوم من الشيعة فدفعوا له صرة دراهم فقالوا أيها القاضي انك قد جمعت أسماء محدثي بغداد وذكرت من قدم إليها وأمير المؤمنين على قد وردها فنسألك ان تذكره فقال نعم يا غلام هات الكتاب فجىء به فكتب فيها وأمير المؤمنين علي يقال أنه قدمها قال بن زرقويه فلما انصرفوا قلت له أيها القاضي هذا الذي الحقته في الكتاب من ذكره فقال هؤلاء الذين رأيتهم أو كما قال وقال أبو القاسم التنوخي تقلد بن الجعابي قضاء الموصل فلم يحمد في ولايته وقال الخطيب سألت البرقاني عنه فقال كان صاحب غرائب ومذهبه معروف في التشيع قلت هل طعن في حديثه وسماعه فقال ما سمعت إلا خيرا أي بعدمه وقال بن عساكر حدثنا عتبة بن علي قال قرأت في تاريخ المسيحي قال مات القاضي أبو بكر الجعابي في رجب سنة خمس وخمسين وثلاث مائة وكان قد صحب قوما من المتكلمين فسقط عند كثير من أهل الحديث