Ang unang pagtatayo ng Dome of the Rock ay isinagawa ng Umayyad Caliphate sa utos ni Abd al-Malik noong Ikalawang Fitna noong 691–692 CE, at mula noon ay nakatayo ito sa tuktok ng lugar ng Ikalawang Templo ng mga Hudyo (itinayo noong c.516 BCE upang palitan ang nawasak na Templo ni Solomon), na winasak ng mga Romano noong 70 CE.Ang Dome of the Rock ay nasa core nito na isa sa mga pinakalumang umiiral na gawa ng Islamic architecture.Ang arkitektura at mosaic nito ay naka-pattern sa mga kalapit na simbahan at palasyo ng Byzantine, bagaman ang panlabas na anyo nito ay nagbago nang malaki sa panahon ng Ottoman at muli sa modernong panahon, lalo na sa pagdaragdag ng bubong na may ginto, noong 1959–61 at muli noong 1993 .