فاستدل على مكانها من كعب الاحبار واشار عليه كعب ان يجعل المسجد من ورائه فقال ضاهيت اليهودية ثم جعل المسجد في قبلي بيت المقدس وهو العمري اليوم ثم نقل التراب عن الصخرة في طرف ردائه وقبائة ونقل المسلمون معه في ذلك وسخر اهل الاردن في نقل بقيتها وقد كانت الروم جعلوا الصخرة مزبلة لانها قبلة اليهود حتى ان المرأة كانت ترسل خرقة حيضتها من داخل الحوز لتلقى في الصخرة وذلك مكافأة لما كانت اليهود عاملت به القمامة وهى المكان الذي كانت اليهود صلبوا فيه المصلوب فجعلوا يلقون على قبره القمامة فلاجل ذلك سمى ذلك الموضع القمامة وانسحب الاسم على الكنيسة التى بناها النصارى هنالك .
وقد كان هرقل حين جاءه الكتاب النبوي وهو بايلياء وعظ النصارى فيما كانوا قد بالغوا في القاء الكناسة على الصخرة حتى وصلت الى محراب داود قال لهم انكم لخليق ان تقتلوا على هذه الكناسة مما امتهنتم هذا المسجد كما قتلت بنو اسرائيل على دم يحيى بن زكريا ثم امروا بازالتها فشرعوا في ذلك فما ازالوا ثلثها حتى فتحها المسلمون فازالها عمر بن الخطاب وقد استقصى هذا كله باسانيده ومتونه الحافظ بهاء الدين بن الحافظ ابي القاسم بن عساكر في كتابه المستقصى في فضائل المسجد الاقصى .
وذكر سيف في سياقه ان عمر رضى الله عنه ركب من المدينة على فرس ليسرع السير بعد ما استخلف عليها علي بن ابي طالب فسار حتى قدم الجابية فنزل بها وخطب بالجابية خطبة طويلة بليغة منها ايها الناس اصلحوا سرائركم تصلح علانيتكم واعملوا لآخرتكم تكفوا امر دنياكم واعلموا ان رجلا ليس بينه وبين آدم اب حي ولا بينه وبين الله هوادة فمن اراد لحب طريق وجه الجنة فليلزم الجماعة فان الشيطان مع الواحد وهو مع الاثنين ابعد ولا يخلون احدكم بامرأة فان الشيطان ثالثهما ومن سرته حسنته وساءته سيئته فهو مؤمن وهي خطبة طويلة اختصرناها ثم صالح عمر اهل الجابية ورحل الى بيت المقدس وقد كتب الى امراء الاجناد ان يوافوه في اليوم الفلاني الى الجابية فتوافوا أجمعون في ذلك اليوم الى الجابية فكان اول من تلقاه يزيد بن ابي سفيان ثم ابو عبيدة ثم خالد بن الوليد في خيول المسلمين وعليهم يلامق الديباج فسار اليهم عمر ليحصبهم فاعتذروا اليه بان عليهم السلاح وانهم يحتاجون اليه في حروبهم فسكت عنهم واجتمع الامراء كلهم بعدما استخلفوا على اعمالهم سوى عمرو بن العاص وشرحبيل بن حسنة فانهما مواقفان الارطبون باجنادين فينما عمر في الجالبية اذا بكردوس من الروم بايديهم سيوف مسللة فسار اليهم المسلمون بالسلاح فقال عمر ان هؤلاء قوم يستامنون فساروا نحوهم فاذا هم جند من بيت المقدس يطلبون الامان والصلح من امير المؤمنين حين سمعوا بقدومه فاجابهم عمر رضى الله عنه الى ما سالوا وكتب لهم كتاب امان