Semasa zaman Byzantine (bermula 390 CE), wilayah yang sebelum ini sebahagian daripada Empayar Rom telah dikuasai oleh agama Kristian di bawah pemerintahan Byzantine. Peralihan ini dipercepatkan oleh kemasukan jemaah Kristian dan pembinaan gereja di tapak alkitabiah.^[123] Sami juga memainkan peranan dalam menukar agama pagan tempatan dengan menubuhkan biara berhampiran penempatan mereka.^[124]Masyarakat Yahudi di Palestin menghadapi kemerosotan, kehilangan status majoritinya menjelang abad keempat.^[125] Sekatan ke atas orang Yahudi meningkat, termasuk larangan membina tempat ibadat baru, memegang jawatan awam, dan memiliki hamba Kristian.^[126] Kepimpinan Yahudi, termasuk pejabat Nasi dan Sanhedrin, telah dibubarkan pada tahun 425, dengan pusat Yahudi di Babylonia menjadi terkenal selepas itu.^[123]Abad ke-5 dan ke-6 menyaksikan pemberontakan Samaria terhadap pemerintahan Byzantine, yang telah ditindas, mengurangkan pengaruh Samaria dan mengukuhkan dominasi Kristian.^[127] Rekod penukaran agama Yahudi dan Samaria kepada Kristian dalam tempoh ini adalah terhad dan kebanyakannya berkaitan dengan individu dan bukannya komuniti.^[128]Pada 611, Khosrow II dari Sassanid Parsi , dibantu oleh pasukan Yahudi, menyerang dan menawan Baitulmaqdis.^[129] Tangkapan itu termasuk rampasan "Salib Sejati".Nehemia bin Hushiel dilantik sebagai gabenor Yerusalem.Pada 628, selepas perjanjian damai dengan Byzantine, Kavad II mengembalikan Palestin dan Salib Benar kepada Byzantine.Ini membawa kepada pembunuhan beramai-ramai orang Yahudi di Galilea dan Yerusalem oleh Heraclius , yang juga memperbaharui larangan kemasukan orang Yahudi ke Yerusalem.^[130]