وجده يحدث بعضهن فقتله وأحرقه بالنار فاستعدت عليه امرأة المولى محمد بن هشام المخزومي وكان والياً على مكة في خلافة هشام وكان العرجي قد هجاه قبل ذلك هجاء كثيرا لما ولاه هشام الحج فأحفظه فلما وجد عليه سبيلا ضربه وأقامه على البُلُسِ للناس وسجنه حتى مات في سجنه .
وذكر الزبير أيضا في خبره عن عمه وغيره أن أشعب كان حاضرا للعرجي وهو يشتم مولاه هذا وأنه طال شتمه إياه فلما أكثر رد المولى عليه فاختلط من ذلك فقال لأشعب اشهد على ما سمعت قال أشعب وعلام أشهد قد شتمته ألفا وشتمك واحدة والله لو أن أمك أم الكتاب وأمه حمالة الحطب ما زاد على هذا .
شعر للعرجي قاله في تعذيب محمد بن هشام له .
قال الزبير وحدثني حمزة بن عتبة اللهبي قال .
لما أخذ محمد بن هشام المخزومي العرجي أخذه وأخذ معه الحصين بن غرير الحميري فجلدهما وصب على رؤوسهما الزيت وأقامهما في الشمس على البُلُسِ في الحناطين بمكة فجعل العرجي ينشد .
( سينصُرني الخليفةُ بعد رَبِّي ... ويغضَب حين يُخْبَر عن مَسَاقِي ) .
( عليَّ عَبَاءةٌ بَلْقَاءُ ليستْ ... مع البَلْوَى تُغَيِّب نِصْفَ سَاقِي ) .
( وتغضَب لي بأجْمَعها قُصَيٌّ ... قَطِينُ البيتِ والدُّمْثِ الرِّقَاق ) .
ثم يصيح يا غرير أجياد يا غرير أجياد فيقول له الحميري المجلود معه ألا