Dana 22. kolovoza umro je Abu Bakr, prvi rašidunski halifa , koji je Omera postavio za svog nasljednika.Omerov prvi potez bio je razriješiti Khalida zapovijedanja i postaviti Abu Ubaidu ibn al-Jarraha za novog vrhovnog zapovjednika islamske vojske.Khalid je obećao svoju lojalnost novom halifi i nastavio je služiti kao obični zapovjednik pod Ebu Ubaidom.Prenosi se da je rekao: "Ako je Ebu Bekr mrtav, a Omer halifa, onda mi slušamo i pokoravamo se."Ebu Ubejde se kretao sporije i stabilnije, što je imalo popratni učinak na vojne operacije u Siriji.Abu Ubaidah, pošto je bio Halidov obožavatelj, postavio ga je za zapovjednika konjice i uvelike se oslanjao na njegove savjete tijekom cijele kampanje.