22 серпня помер Абу Бакр, перший халіф Рашидун , який зробив Умара своїм наступником.Першим кроком Умара було звільнення Халіда від командування та призначення Абу Убайди ібн аль-Джарра новим головнокомандувачем ісламської армії.Халід присягнув на вірність новому халіфу і продовжив служити звичайним командиром під керівництвом Абу Убайди.Повідомляється, що він сказав: «Якщо Абу Бакр помер, а Умар став халіфом, тоді ми слухаємо і підкоряємось».Абу Убайда рухався повільніше і стабільніше, що мало супутній вплив на військові дії в Сирії.Абу Убайда, будучи шанувальником Халіда, призначив його командиром кінноти і багато в чому покладався на його поради протягом усієї кампанії.