Klippedomens første konstruksjon ble utført av Umayyad-kalifatet etter ordre fra Abd al-Malik under den andre Fitna i 691–692 e.Kr., og den har siden vært plassert på toppen av stedet for det andre jødiske tempelet (bygget i ca. 516 fvt for å erstatte det ødelagte Salomos tempel), som ble ødelagt av romerne i 70 e.Kr.Klippedomen er i sin kjerne et av de eldste bevarte verkene innen islamsk arkitektur.Arkitekturen og mosaikkene var mønstret etter nærliggende bysantinske kirker og palasser, selv om dets ytre utseende ble betydelig endret i løpet av den osmanske perioden og igjen i den moderne perioden, spesielt med tillegg av det gullbelagte taket, i 1959–61 og igjen i 1993 .