قال القاضي شمس الدين أحمد بن خلّكان C تعالى : وكنت مرة رأيت في المنام سنة ثمانٍ وأربعين وستمئة وأنا يومئذٍ بالقاهرة كأنني قد خرجت إلى قليوب ودخلت إلى مشهدٍ بها فوجدته شعثاً وهو مارةٌ قديمةٌ ورأيت به ثلاثة أشخاص مقيمين مجاورين فسألتهم عن المشهد وأنا متعجبٌ لاتقان بنيانه وتشييده : ترى هذه عمارة من ؟ فقالوا : لا نعلم ثم قال أحدهم : إن الشيخ أبا علي الفارسي جاور في هذا المشهد سنين عديدةً وتفاوضنا حديثه فقال : وله مع فضائله شعرٌ حسنٌ فقلت : ما وقفت له على شعرٍ فقال : أنا أنشد له من شعره ثم أنشد بصوتٍ رقيقٍ ثلاثة أبيات فاستيقظت في أثر الإنشاد ولذَّة صوته في أذني وعلق على خاطري منها هذا البيت الأخير وهو : من البسيط .
الناس في الخير لا يرضون عن أحدٍ ... فكيف ظنك سيموا الشرَّ أو ساموا .
وأبو عليّ أخذ النحو عن جماعةٍ من أعيان هذا الشأن كأبي إسحاق الزجاج وأبي بكر السرّاج وأبي بكر مبرمان وأبي بكر الخياط وبرع له غلمان حذّاقٌ قرأوا عليه مثل عثمان بن جنّي وعليّ بن عيسى الرَّبعي وقال أبو الحسن طاهر بن أحمد بن بابشاذ النحويّ في كتاب شرح الجمل للزجاجي في باب التصريف منه : يحكى عن أبي علي الفارسي أنه حضر يوماً مجلس أبي بكر الخياط فأقبل أصحابه على أبي بكرٍ يكثرون عليه المسائل وهو يجيبهم ويقيم الدلائل فلما أنفذوا اقبل على أكبرهم سناً وأكثرهم عقلاً وأوسعهم علماً عند نفسه فقال له : كيف تبني من سفرجل مثل عنكبوت فأجابه مسرعاً سفرروت فحين سمعها قام من مجلسه وصفق بيديه وخرج وهو يقول : سفرروت سفرروت سفرروت فأقبل أبو بكرٍ على أصحابه وقال : لا بارك الله فيكم ولا أحسن جزاكم خجلاً مما جرى واستحيى من أبي علي . ومما يشهد بصفاء ذهن أبي عليٍ أنه سئل قبل أن ينظر في العروض خرم متفاعلن متفكّر وانتزع الجواب فيه من النحو فقال لا يجوز لأنَّ متفاعلن ينقل إلى مستفعلن إذا خبن فلو خرم لتعرَّض للابتداء بالسَّاكن وكما لا يجوز الابتداء بالسّاكن لا يجوز التعرُّض له هنا . والخرم حذف الحرف الأول من البيت والخبن تسكين ثانية وقيل إنّ أبا علي لما صنَّف الإيضاح وحمله إلى عضد الدولة قال له : ما زدت على ما أعرف شيئاً وإنما يصلح هذا للصبيان فمضى أبو علي وصنَّف التكملة وحملها إليه فلما وقف عليها عضد الدولة قال : غضب الشيخ وجاء بما لا نفهمه نحن ولا هو . وكان يرمى بالاعتزال . وحكى ابن جني عن أبي علي أنه كان يقول : أخطىء في مائة مسألة لغوية ولا أخطىء في واحدة قياسيّةٍ . وكان أبو طالب العبدي يقول : ليس بين سيبويه وأبي علي أبصر بالنحو من أبي علي . وكان بعض تلامذته يفضّله على المبرّد .
وتوفّي سنة سبع وسبعين وثلاثمئة في شهر بيع الأول . ومن تصانيفه : كتاب الحجَّة كتاب التذكرة . الإيضاح الشعري الإيضاح النحوي أبيات الإعراب مختصر عوامل الإعراب المسائل الحلبية المسائل البغدادية المسائل الشيرازية المسائل القصريّة الأغفال وهو مسائل أصلحها على الزجاج المقصور والممدود نقض الهاذور الترجمة المسائل المنشورة المسائل الدمشقية أبيات المعاني التتبُّع لكلام أبي علي الجبَّائي في التفسير تفسير قوله تعالى : إذا قمتم إلى الصلاة المسائل البصرية المسائل العسكرية المسائل المصلحة من كتاب ابن السراج المسائل المشكلة المسائل الكرمانيَّة المسائل العسكرية المسائل الذَّهبيَّة .
الحافظ أبو محمد السَّبيعي