Em 22 de agosto, Abu Bakr, o primeiro califa Rashidun , morreu, tendo feito Umar seu sucessor.O primeiro movimento de Umar foi destituir Khalid do comando e nomear Abu Ubaidah ibn al-Jarrah como o novo comandante-chefe do exército islâmico.Khalid jurou lealdade ao novo califa e continuou a servir como comandante comum sob o comando de Abu Ubaidah.Ele teria dito: "Se Abu Bakr está morto e Umar é o califa, então ouvimos e obedecemos."Abu Ubaidah moveu-se de forma mais lenta e constante, o que teve um efeito concomitante nas operações militares na Síria.Abu Ubaidah, sendo um admirador de Khalid, nomeou-o comandante da cavalaria e confiou fortemente em seus conselhos durante toda a campanha.