22. srpna zemřel Abú Bakr, první rašídunský chalífa , a učinil Umara svým nástupcem.Umarovým prvním krokem bylo zbavit Chálida velení a jmenovat Abu Ubaidah ibn al-Jarrah novým vrchním velitelem islámské armády.Khalid slíbil svou loajalitu novému chalífovi a nadále sloužil jako řadový velitel pod Abu Ubaidahem.Údajně řekl: "Pokud je Abu Bakr mrtvý a Umar je chalífa, pak nasloucháme a posloucháme."Abu Ubaidah se pohyboval pomaleji a stabilněji, což mělo průvodní vliv na vojenské operace v Sýrii.Abu Ubaidah, který byl Chálidovým obdivovatelem, z něj učinil velitele kavalérie a během celého tažení silně spoléhal na jeho rady.