На 22 август Абу Бакр, първият халиф на Рашидун , почина, като направи Умар свой наследник.Първият ход на Умар беше да освободи Халид от командването и да назначи Абу Убайда ибн ал-Джара за нов главнокомандващ на ислямската армия.Халид се закле във лоялност към новия халиф и продължи да служи като обикновен командир при Абу Убайда.Съобщава се, че той е казал: "Ако Абу Бакр е мъртъв и Умар е халиф, тогава ние слушаме и се подчиняваме."Абу Убайда се движеше по-бавно и стабилно, което имаше съпътстващ ефект върху военните операции в Сирия.Абу Убайда, като почитател на Халид, го назначи командир на кавалерията и разчиташе много на съветите му по време на цялата кампания.