Στις 22 Αυγούστου, ο Αμπού Μπακρ, ο πρώτος χαλίφης Ρασιντούν , πέθανε, έχοντας κάνει διάδοχό του τον Ομάρ.Η πρώτη κίνηση του Umar ήταν να απαλλάξει τον Khalid από τη διοίκηση και να διορίσει τον Abu Ubaidah ibn al-Jarrah ως νέο αρχιστράτηγο του ισλαμικού στρατού.Ο Χαλίντ υποσχέθηκε την πίστη του στον νέο Χαλίφη και συνέχισε να υπηρετεί ως απλός διοικητής υπό τον Αμπού Ουμπάιντα.Αναφέρεται ότι είπε: «Αν ο Αμπού Μπακρ είναι νεκρός και ο Ομάρ είναι Χαλίφης, τότε ακούμε και υπακούμε».Ο Abu Ubaidah κινήθηκε πιο αργά και σταθερά, γεγονός που είχε συνακόλουθη επίδραση στις στρατιωτικές επιχειρήσεις στη Συρία.Ο Abu Ubaidah, όντας θαυμαστής του Khalid, τον έκανε διοικητή του ιππικού και βασιζόταν σε μεγάλο βαθμό στις συμβουλές του σε όλη την εκστρατεία.