أول منشئه من قريةٍ تعرف بالدور من أعمال دجيل، تعرف اليوم بدور الوزير نسبة إلى هبيرة، وكان أبوه أكاراً بالقرية المذكورة. وكان يحث ولده على تحصيل الأدب وإدراك الفوائد، وكان يردده صغيراً إلى بغداد ويحضره إلى مجالس الصدور وصدور المجالس، وكان هو كما قيل:
ولها من نفسها طرب
ومات أبوه وهو صبي فتفرد بالاشتغال وتقلبت به تصاريف الأمور ومرت عليه شدائد، وكابد من الفقر أهوالاً، وتنقل في الخدمات فكان لا ينتقل من خدمة إلا إلى أكبر منها، ومازال ينتقل من خدمة إلى أخرى أرفع منها حتى تقلد الوزارة للمقتفي، فمكث فيها مدةً ومشاهرته في كل سنة مائة ألف دينار.
وكان كريماً جواداً سمحاً لا يخرج من السنة وفي خزانته منها درهم واحد، وكان المقتفي والمستنجد يقولان: ما وزر لبني العباس كيحيى بن هبيرة في جميع أحواله.
وكان له في قمع الدولة السلجوقية يد قوية وحيل مرضية.
وكان وقوراً حليماً متواضعاً. لما تولى الوزارة دخل الديوان وعليه الخلع، فرأى غلاماً من غلمان الديوان واقفاً عن بعد، فاستدناه وتبسم في وجهه وأمر له بذهب وكسوة، ثم قال: لا إله إلا الله، أذكر مرةً وقد دخلت هذا الديوان وجلست في بعض المجالس، فجاء هذا الغلام وجذبني بيدي وقال: قم فليس هذا مكانك، وقد رأيته الساعة واقفاً وأثر الخوف ظاهر عليه فأحببت أن أوانسه وأزيل رعبه.
ورأى يوماً في الديوان جندباً، فقال لحاجبه: أعط هذا الجندي عشرين ديناراً وكر حنطة وقل له لا يدخل الديوان ولا يرينا وجهه. فتغامز الناس وتشوفوا إلى معرفة السبب في ذلك. وفطن الوزير لذلك فقال لهم: كان هذا الجندي شحنة في قريتنا، فقتل شخص من أهل القرية، فجاء هذا الشحنة وأخذ جماعةً من أهل القرية وأخذني معهم مكتوفاً في عرض الفرس، وبالغ في أذاي وضربي ثم أخذ من كل واحد منهم شيئاً وأطلقه، وبقيت أنا معه، فقال لي: أعطني شيئاً أخلصك. فقلت: والله ما أملك شيئاً. فأعاد علي الضرب والإهانة، ثم قال لي: اذهب إلى لعنة الله، ثم أطلقني، فأنا لا أحب أن أرى صورة وجهه.
ومن أفكاره اللطيفة أن الوزراء كانوا قبله يلقبون ألقاباً من جملتها سيد الوزراء، فتقدم هو إلى الكتاب ألا يكتبوا هذا اللقب في ألقابه، وقال: إنني فكرت في هذا فرأيت الله تعالى قد سمى هارون وزيراً، حتى قال عز من قائل حكايةً عن موسى، عليه السلام: ً واجعل لي وزيراً من أهلي هارون أخي اشدد به أزري ً. وسمعت عن النبي، عليه السلام، أنه قال: ً لي وزيران من أهل السماء جبرائيل وميكائيل ووزيران من أهل الأرض أبو بكر وعمرً. وقال، عليه السلام: ً إن الله تعالى اختار لي أصحاباً فجعلهم وزراء وأنصاراً ً وحدث عنه بعض مجالسيه، قال: كنا يوماً عنده فدخل الحاجب وقال: يا مولانا بالباب رجل سوادي، يذكر أنه فلان بن فلان ومعه شملة مكورة وهو يطلب الحضور بين يديك. فعرفه الوزير وقال له: أدخله. قال: فدخل شيخ طويل من أهل السواد عليه ثياب غليظة من القطن وعمامة فوط ملونة، وفي رجله جمجمان، فسلم على الوزير وقال: يا سيدي، أم الصغيرات، يعني زوجته، لما علمت أني أجيء إلى بغداد قالت لي: سلم على الشيخ يحيى ابن هبيرة واستوحش له، وقد خبزت لك هذا الخبيز على اسمك. فتبسم الوزير وهش به وقال: جزاها الله خيراً. وحل تلك الشملة فإذا فيها خبز شعير مشطور بكامخ التوث. فأخذ الوزير منه رغيفين وقال: هذا نصيبي من هذه الهدية، وفرق الباقي على الصدور الحاضرين. وسأل الرجل عن حوائجه وحوائج زوجته فقضاها، وقال للحاضرين: هذا كان جاري في قريتي وشريكي في زريع وأعرف منه الأمانة.