Kur'an'ın bildirdiğine göre "insanlar için inşâ edilen ilk beyt (mâbed)" Kâ'be'dir (3/Âl-i İmrân, 96). Rivâyete göre onun ilk bânîsi Hz. Âdem'dir. Ebû Zerr'in sorduğu sorular üzerine Hz. Peygamber, yeryüzünde ilk mescidin Mescid-i Harâm, ikincisinin ise Mescid-i Aksâ olduğunu açıklamıştır (Buhârî, Enbiyâ 49; Müslim, Mesâcid 1-2). Aynı hadiste aralarının zaman olarak kırk yıl olduğunun belirtilmesi, (kırk sayısının çokluk ve uzaklık bildiren mecaz anlamı kastedilmediyse) Hz. İbrâhim ve Hz. Süleyman'ın eski temelleri üzerine bunları yenilediklerini göstermektedir. Bu mescidlere "beyt" denilmiş, Kâbe için "el-Beyt" (2/Bakara, 125, 127, 158; 3/Al-i İmrân, 96, 97), "Beytü'l-Harâm" (5/Mâide, 2, 97), "Beytü'l-Atîk" (22/Hacc, 29, 33) ifadeleri kullanılmıştır. Tarihî bulgulara göre Mekke, Mescid-i Harâm'dan dolayı, eskiçağlardan beri mescidin yeri olarak bilinmekteydi.
"Şu mescidimdeki namaz efdaldir." (Bir başka rivâyette:) "Bu mescidimdeki bir namaz, Mescid-i Harâm hâriç bütün mescidlerde kılınan bin namazdan daha hayırlıdır." (Buhârî, Fazlu's-Salât 1; Müslim, Hacc 505; Tirmizî, Salât 243; Nesâî, Mesâcid 7; Muvattâ, Kıble 9)
İslâm’a göre üç mescid yücedir. Bunlara özel ziyaret yapmak helâldir: Mescid-i Haram, Mescid-i Aksa ve Mescid-i Nebevî (Müslim, Hacc 74, hadis no: 1338, c. 2, s. 975; Buhârî, Salâtu Mescid-i Mekke 1, 6, 2/76,77, Savm 67, 2/56; Ebû Dâvud, Menâsik hadis no: 2033, 2/216; Tirmizî, Salât 243, hadis no: 326, 2/148). Mescid-i Haram, yeryüzündeki mescidlerin en faziletlisidir. Burada kılınan bir namazın, başka mescidlerde kılınan yüz bin namazdan daha efdal olduğu rivâyet edilmiştir. “Mescidimde kılınan bir namaz, Mescid-i Haram hâriç, başka mescidlerde kılınan bin namazdan efdaldir. Mescid-i Haram’da kılınan bir namaz da diğer mescidlerde kılınan yüz bin namazdan efdaldir.” (İbn Mâce, hadis no: 1406). Fazilet bakımından Mescid-i Haram’dan sonra, Mescid-i Nebevî ve ondan sonra da Mescid-i Aksâ gelir.
Mescid-Haram, Mekke’de Kâbe’nin bulunduğu alandaki câminin adıdır. Hürmet ve saygı gösterilmesi gereken mescid anlamında, “hurmetli mescid” demek olan “el-Mescidu’l-Haram” ismi verilmiştir. Bütün müslümanların kıblesidir. Buraya Harem-i Şerif de denilir. Açık bir alan üzerinde bulunan Kâbe, Makam-ı İbrâhim ve zemzem kuyusu, bu mescidin içindedir. Çevre duvarları 547 metredir. Bu dört duvarında 9 kapı ve çevresinde 92 kubbe ve 7 minâre vardır.
“Mescid-i Haram” Kur’ân-ı Kerim’de 15 yerde zikredilir. Asr-ı Saâdet’in ilk yıllarında namazlarda kıble Kudüs’teki Mescid-i Aksâ iken, hicretten sonra 16. ayda, kıble Mekke’deki Mescid-i Haram’a çevrilmiştir (Bkz. 2/Bakara, 249-250; 144). Saldırı olmayınca, çevresinde savaş yapılması yasaklanmıştır “Mescid-i Haram’ın yanında onlar, sizinle savaşmadıkça siz de onlarla savaşmayın. Eğer orada sizinle savaşırlarsa onları öldürün. İşte kâfirlerin cezası böyledir.” (2/Bakara, 191).
Mescid-i Haram, Emevîler, Abbâsîler, Osmanlılar ve Suudlular zamanında çeşitli tamirler görmüş ve değişikliklere uğramıştır. Şimdiki haliyle Kâbe’ye yakın olan kısmın üzeri açık, dış kısımların üzeri kapalıdır.
Peygamberimiz, 7 yerin mescid edinilmesini yasaklamıştır. Bunlar: zibillik-çöplük, mezarlık, yol kavşakları, güzergâhlar, hamamlar, hayvan ağılları ve Kâbe'nin üstüdür (İbn Mâce, Mesâcid 4). Bu gün Suud yönetiminin, Kâbe'nin tepesine diktiği görkemli krallık sarayı, Beytullah'ı ayak altına alırcasına tepeden bakan yapısıyla Mescid-i Harâm'a büyük saygısızlık olduğu gibi; eğer kral ve çevresindekiler namaz kılıyorlarsa, hadis-i şerif gereği buradaki namazların da geçerli olmayacağını belirtmek gerekir.