22 жніўня Абу Бакр, першы халіф Рашыдун , памёр, зрабіўшы Умара сваім пераемнікам.Першым крокам Умара было вызваленне Халіда ад камандавання і прызначэнне Абу Убайды ібн аль-Джара новым галоўнакамандуючым ісламскай арміі.Халід прысягнуў на вернасць новаму халіфу і працягваў служыць звычайным камандзірам пад камандаваннем Абу Убайды.Паведамляецца, што ён сказаў: «Калі Абу Бакр памёр, а Умар стаў халіфам, то мы слухаем і падпарадкоўваемся».Абу Убайда рухаўся больш павольна і ўстойліва, што адбілася на ваенных дзеяннях у Сірыі.Абу Убайда, будучы прыхільнікам Халіда, прызначыў яго камандзірам кавалерыі і шмат у чым спадзяваўся на яго парады на працягу ўсёй кампаніі.