22 sierpnia zmarł Abu Bakr, pierwszy kalif Rashidun , ustanawiając Umara swoim następcą.Pierwszym posunięciem Umara było zwolnienie Khalida z dowództwa i mianowanie Abu Ubaidah ibn al-Jarrah nowym naczelnym dowódcą armii islamskiej.Khalid przyrzekł lojalność nowemu kalifowi i nadal służył jako zwykły dowódca pod dowództwem Abu Ubaidy.Podobno powiedział: „Jeśli Abu Bakr nie żyje, a Umar jest kalifem, to słuchamy i jesteśmy posłuszni”.Abu Ubaidah poruszał się wolniej i równomiernie, co miało jednocześnie wpływ na operacje wojskowe w Syrii.Abu Ubaidah, będąc wielbicielem Khalida, mianował go dowódcą kawalerii i przez całą kampanię mocno polegał na jego radach.