22 Ağustos'ta ilk Raşidun halifesi Ebu Bekir öldü ve Ömer'i halefi yaptı.Ömer'in ilk hamlesi Halid'i komutanlıktan almak ve Ebu Ubeyde ibn el-Jarrah'ı İslam ordusunun yeni başkomutanı olarak atamak oldu.Halid, yeni Halife'ye sadakat sözü verdi ve Ebu Ubeyde'nin komutasında sıradan komutan olarak hizmet etmeye devam etti."Eğer Ebu Bekir ölmüşse ve Ömer halife ise, o zaman dinleriz ve itaat ederiz" dediği rivayet edilir.Ebu Ubeyde daha yavaş ve istikrarlı bir şekilde hareket etti ve bu da Suriye'deki askeri operasyonlar üzerinde eş zamanlı bir etki yarattı.Halid'in hayranı olan Ebu Ubeyde, onu süvarilerin komutanı yaptı ve tüm sefer boyunca büyük ölçüde onun tavsiyelerine güvendi.