Bentuk bangunan Ka’bah ketika pertama kali dinaikkan dari pondasinya oleh Nabi Ibrahim dan Ismail a.s. tidak menyerupai bangunan-bangunan lain di dunia. Dalam ilmu geometri, bentuk seperti itu disebut persegi empat beda sisi karena panjang semua sisinya berbeda satu sama lain. Bentuk seperti itu merupakan bentuk yang sangat langka dipergunakan untuk membangun suatu bangunan meskipun memiliki kesamaan dengan bentuk-bentuk geometris lain seperti kubus, persegi panjang, atau trapesium.
Bentuk bangunan KA’bah ketika Nabi Ibrahim dan Ismail a.s. meninggikan bangunan itu pertama kali, sebagaimana disebutkan dalam kitab karya al Azraqi, Akhbar Makkah, berbeda dengan bentuk dan ukuran KA’bah yang ada saat ini, yang bertahan sejak pemugaran yang dilakukan oleh Kaum Quraisy. Ada beberapa pengurangan panjang dinding beberapa hasta terutama arah hijir Ismail.
Sebagaimana disebutkan dalam beberapa hadist Nabi saw, bangunan K’abah engalami perubahan penting ketika kaum Quraisy memugarnya karena rusak akibat banjir yang melanda kota Makkah.
Al Bukhari meriwayatkan dari Ummul Mukminin, Aisyah r.a. bahwa Nabi saw bersabda kepadanya, “Wahai Aisyah, jika kaummu telah lama beralih dari masa jahiliah, aku akan menyuruh agar Ka’bah dirobohkan termasuk yang tersisa darinya, meratakannya dengan tanah, dan membuatkan dua pintu, satu menghadap ke timur dan yang lainnya menghadap ke barat, satu pintu untuk masuk dan pintu lainnya untuk keluar.”
Bentuk dan ukuran bangunan Ka’bah saat ini bertahan sejak pertama kali kaum Quraisy memugarnya, yaitu:
- Sisi timur laut 11,68 meter
- Sisi barat laut 9,90 meter
- Sisi barat daya 12,04 meter
- Sisi tenggara 10,18 meter