Първоначалната конструкция на Купола на скалата е извършена от Омаядския халифат по заповед на Абд ал-Малик по време на Втората фитна през 691–692 г. сл. н. е. и оттогава се намира на върха на мястото на Втория еврейски храм (построен през около 516 г. пр.н.е., за да замени разрушения храм на Соломон), който е бил разрушен от римляните през 70 г. пр.н.е.Куполът на скалата в основата си е едно от най-старите съществуващи произведения на ислямската архитектура.Архитектурата и мозайките му са моделирани след близките византийски църкви и дворци, въпреки че външният му вид е значително променен по време на османския период и отново в съвременния период, особено с добавянето на позлатен покрив през 1959-61 г. и отново през 1993 г. .