كان أوَّلاً خصيصاً بمحمد بن إسحاق بن إبراهيم المُصْعَبي حتَّى لقد مات ويده في يده . ووصفه الفتح بن خاقان للمتوكِّل فأحضره وأعجبه واستمرَّ به نديماً وحُسب جملة ما وصل إليه من أنعام المتوكِّل فكان ذلك ثلاثة مائة ألف دينار ووصله من المعتزّ ثلاثة وثلاثون ألف دينار وقلَّده المنتصر بن المتوكل العمارات والمستَغَلاّت والمرمَّات وكلّ ما على شاطئ دجلة إلى البطيحة من القرى وأقرَّه المستعين على ذلك . ثمَّ حدثت الفتنة فانحدر مع المستعين ولم يزل إلى أن خُلع المستعين فأقام يغدو إليه ويروح بعد الخلع إلى أن أحلَّه من البيعة التي كانت له في عنقه . ولك يكن المستعين قبل الخلع بسنة يأكل إلاَّ ما يُحمل إليه من منزل علي بن يحيى في الجَوْن فيُفطر عليه لأنّه كان يصوم في تلك الأَيام . ولكن لما تولى المهدي حقد عليه أشياء كانت تجري بينه وبين المهتدي في مجالس الخلفاء وسلَّمه الله منه ومضى المهتدي لسبيله . وكان المهتدي يقول : لست أدري كيف يسلم منِّي علي بن يحيى . ثمَّ أفضى الأمر إلى المعتمد فحلَّ منه محلا عظيماً وقدَّمه على الناس جميعاً وقلَّده ما كان يتقلَّده قبله أيامَ الخلفاء وزاده بناء المعشوق فبنى له أكثره . وكان الموفَّق يذكره في مجالسه ويثني عليه . أمر المتوكِّل في بعض ليالي شرابه مَن يمضي إلى بيت علي بن المنجم ويأتيه بما في بيته من طعام ولا يدع أهله يُهيِّئون شيئاً من غير ما عندهم فمضى وأتى بجَونةٍ ملأى من ضروب الطعام ففُتحت بين يديه فأعجبه ما فيها وأعظمه فصاح المتوكِّل بعلي بن المنجم وقال له : انظر إلى هذه الجونة أتعلم من أين هي ؟ قال : لا يا أمير المؤمنين فقال : هي من منزلك والله لقد سرَّني ما رأيتُ من مروءتك وسَرْوِك كذا فليكن مَن خدم الملوك واتَّصل بهم . ثمَّ قال له : ما تحبُّ أن أهب لك ؟ قال : مائة ألف دينار . فقال له : أنت تستحقّها وأكثر منها . وما يمنعني من دفعها إليك إلاَّ خوفُ الشنَّاع وأن يقال : صرف لنديمه مائة ألف دينار ؛ وقد وصلتك الآن بمائة ألف درهم معجَّلةً وعليَّ أن أصلك الباقي مفرَّقاً . ولم يزل يُنعم عليه بشيء بعد شيء إلى أن أكملها .
وكان علي بن يحيى سَرِيًّا مُمَدَّحاً منزله مأوى الفضلاء ومجمع الأدباء يصلهم بالأموال والقماش والخيول وغير ذلك . وفيه يقول إدريس بن أبي حفصة : .
أضحى عليُّ بن يحيى وهو مشتهرٌ ... بالصدق في الوعد والتصديق في الأملِ .
لو زيد بالجود في رزقٍ وفي أجلٍ ... لزاد جودك في رزقٍ وفي أجَلِ .
ويقول أيضاً : .
ما من دعوتُ ولَبّاني بنائله ... كمن دعوتُ فلم يسمع ولم يُجِبِ .
إنّي وجدت عليًّا إذْ نزلتُ به ... خيراً من الفضَّة البيضاء والذهبِ .
وفيه يقول أبو هِفّان : .
وقائلٍ إذْ رأى عزمي عن الطَّلَبِ : ... أتِهْتَ أم نِلْتَ ما ترجو من النَّشَبِ ؟ .
قلت : ابنُ يحيى عليٌّ قد تكفَّل لي ... وصان عِرضي كصون الدِّين للحَسَبِ .
ويقول يعقوبُ بن يزيد التمّار : .
يُذكي لزوّاره ناراً مضرَّمةً ... على يَفاعٍ ولا يُذكي على صَبَبِ .
من فارس الخير في أبياتِ مملكةٍ ... وفي الذوائب من جُرثومةِ الحَسَبِ .
ويقول أحمد بن أبي طاهر : .
له خلائقُ لم تُطبَع على طَبَعٍ ... ونائلٌ واصلتْ أسبابُه سَبَبي .
كالغيث يعطيك بعد الرِّي واصلَه ... وليس يعطيك ما يعطيك عن طَلَبِ .
وكان الثلاثة قد اجتمعوا عنده على الشراب فوصلهم وخلع عليهم . ودخل عليه ابنه هارون يوماً فقال له : يا أبت رأيتُ في النوم أمير المؤمنين المعتمد وهو في داره على سرير إذْ بَصُرَ بي فقال لي : أقبل عليَّ يا هارون يزعم أبوك أنك تقول الشعر فأنشدني طريد هذا البيت : .
أسالت على الخدَّين دمعاً لو أنَّهُ ... من الدُّرِّ عِقدٌ كان ذُخراً من الذُّخرِ .
فلم أردَّ عليه شيئاً وانتبهتُ ؛ فزحف إليه أبوه غضباً وقال له : ويحك لِمَ لمْ تقل : .
فلما دنا وقتُ الفراقِ وفي الحشا ... لفرقتها لَذْعٌ أحرُّ من الجمرِ .
ولما مات قال ابن بسّام :