Le 22 août, Abou Bakr, le premier calife de Rashidun , mourut, après avoir fait d'Umar son successeur.La première mesure d'Umar fut de relever Khalid du commandement et de nommer Abu Ubaidah ibn al-Jarrah comme nouveau commandant en chef de l'armée islamique.Khalid a juré sa loyauté envers le nouveau calife et a continué à servir comme commandant ordinaire sous Abu Ubaidah.Il aurait dit : « Si Abou Bakr est mort et qu'Umar est calife, alors nous écoutons et obéissons. »Abu Ubaidah s’est déplacé plus lentement et plus régulièrement, ce qui a eu un effet concomitant sur les opérations militaires en Syrie.Abu Ubaidah, admirateur de Khalid, le nomma commandant de la cavalerie et s'appuya fortement sur ses conseils pendant toute la campagne.