Am 22. August starb Abu Bakr, der erste Rashidun-Kalif , nachdem er Umar zu seinem Nachfolger ernannt hatte.Umars erster Schritt bestand darin, Khalid vom Kommando zu entbinden und Abu Ubaidah ibn al-Jarrah zum neuen Oberbefehlshaber der islamischen Armee zu ernennen.Khalid gelobte dem neuen Kalifen seine Loyalität und diente weiterhin als gewöhnlicher Befehlshaber unter Abu Ubaidah.Er soll gesagt haben: „Wenn Abu Bakr tot und Umar Kalif ist, dann hören wir zu und gehorchen.“Abu Ubaida bewegte sich langsamer und stetiger, was sich auch auf die Militäreinsätze in Syrien auswirkte.Abu Ubaidah, ein Bewunderer Khalids, ernannte ihn zum Kommandeur der Kavallerie und verließ sich während des gesamten Feldzugs stark auf seinen Rat.