ثم انهدمت الكعبة فبنتها العمالقة ثم انهدمت فبنتها جرهم ثم انهدمت فبناها قصي بن كلاب وسقفها بخشب الدوم وجريد النخل وجعل ارتفاعها خمسا وعشرين ذراعا ثم استهدمت وكانت فوق القامة فأرادت قريش تعليتها فهدمتها وبنتها والنبي عمره خمس وعشرون سنة وشهد بناءها معهم وكان بابها بالأرض فقال أبو حذيفة بن المغيرة يا قوم ارفعوا باب الكعبة حتى لا يدخل إلا مسلم ففعلوا ذلك وسقفوها بخشب سفينة ألقاها البحر الى جدة .
قال في الروض المعطار وكان طولها ثماني عشرة ذراعا ثم احترق البيت حين حوصر ابن الزبير بمكة وتأثرت حجارته بالنار فهدمه ابن الزبير وأدخل فيه ستة أذرع من الحجر وقيل سبعة وجعل له بابين ملصقين بالأرض شرقيا وغربيا يدخل من أحدهما ويخرج من الآخر وجعل على بابها صفائح الذهب وجعل مفاتيحه من ذهب قال في الروض المعطار وبلغ بها في العلو سبعا وعشرين ذراعا فلما قتل ابن الزبير كتب عبد الملك بن مروان الى الحجاج يأمره بإعادته على ما كان عليه في زمن النبي من بناء قريش فهدم جانب الحجر وأعاده الى ذلك وسد الباب الغربي ورفع الشرقي عن الأرض الى حده الذي هو عليه الآن وكان عبد الملك بن مروان بعد ذلك يقول وددت أني كنت حملت ابن الزبير من بناء الكعبة ما تحمل .
ثم جدد المتوكل رخام الكعبة فأزرها بفضة وألبس سائر حيطانها وسقفها الذهب وهو على ذلك الى الآن وهو مبني بالحجر الأسود مستطيل البناء على التربيع في ارتفاع خمسة وعشرين ذراعا .
وله اربعة أركان الأول ركن الحجر الأسود وهو ما بين الشرق والجنوب ومنه يبتدأ الطواف