Коран називає Каабу першою спорудою, зведеною людьми безпосередньо для поклоніння Богові. В один із кутів Кааби вмонтовано Чорний камінь. Навколо Кааби під час хаджу відбувається обряд таваф. Кааба служить кіблою – орієнтиром, до якого звертають своє обличчя мусульмани всього світу під час молитви.
На внутрішніх стінах встановлені таблички з іменами правителів, які коли-небудь брали участь у будівництві або ремонті Кааби. Праворуч від входу в Каабу розташована невелика вигородка з позолоченими дверцятами, що називаються “Двері покаяння” (Баб ат-тауба). Через них вхід на сходи, що ведуть на дах Кааби.
Кааба побудована навколо священного Чорного каменю, який захований у східному кутку, на висоті 1,525 м. Мусульмани вірять, що пророк Мухаммед один раз поцілував камінь, тож під час їхньої обов’язкової, один раз у житті, принаймні, поїздки до Мекки вони намагаються поцілувати Чорний камінь, якщо це можливо.