Masjidil Haram
Sejarah Masjidil Haram tidak lepas dari pembangunan Kakbah jauh sebelum Nabi Adam diciptakan. Setelah Nabi Adam dan Hawa turun ke bumi, mereka diperintahkan oleh Allah untuk membangun bangunan di sebuah lembah yang bernama Bakkah (saat ini menjadi bagian dari Kota Mekkah al-Mukarramah)[4]. Namun bangunan tersebut hancur akibat air bah pada masa Nabi Nuh. Selama beberapa abad kemudian, Allah memerintahkan kepada Nabi Ibrahim dan putranya, Nabi Isma'il untuk membangun sebuah bangunan di tengah perempatan kota Mekkah untuk dijadikan tempat beribadah[5] Mereka berdua lah yang pertama kali meletakkan Hajar Aswad dan Maqam Ibrahim di sekitar Kakbah.[6] Sejak pembangunan tersebut, Kakbah dan Masjidil Haram dijaga oleh para keturunan Isma'il.
Bani Syaibah
Ka'bah telah lama diurus oleh Bani Syaibah. Mula-mulanya, kunci Ka'bah ()dipegang oleh Nabi Ismail AS, dan kemudian diserahkan kepada anaknya, Nabit bin Ismail. Kemudian dirampas oleh paman-paman dari pihak ibunya, Bani Jurhum selama beberapa abad hingga dirampas oleh Bani Khuza'ah. Hingga akhirnya kunci ini sampai ke tangan Qushay bin Kilab bin Murrah al-Qurasyi (kakek ke-5 Rasulullah ; dikembalikan dengan perang yang berdarah. Setelah kejadian tersebut, kunci tersebut dipegang oleh putranya Abd ad-Dār, dan kemudian oleh anak-anaknya baik di zaman Jahiliyah ataupun di masa Islam. Tanggung jawab ini kemudian sampailah ke tangan Syaibah bin Utsman yang bernama lengkap Abdul 'Uzza bin Utsman bin Abd ad-Dār bin Qushay. Sidanah ini menjadi tanggung jawab anak laki-laki Bani Syaibah bin Utsman hingga saat ini - dengan jalan mewariskannya di antara mereka dengan penuh keteraturan.