On rapporte qu’Omar destitua Khalid à cause d’un propos (1) qui lui était parvenu au sujet de ce dernier, ainsi qu’à la suite de l’affaire de Malik ibn Nouwayra et de la manière dont Khalid menait la guerre. Lorsque Omar accéda au califat, la première chose qu’il fit fut de relever Khalid de ses fonctions en déclarant : « Il ne dirigera plus jamais rien pour moi. »
Omar écrivit à Abou Oubaïda : « Si Khalid se traite lui-même de menteur, alors il conserve son poste tel qu’il l’occupait auparavant. S’il ne se traite pas de menteur, alors il est révoqué. Retire-lui son turban de la tête et partage son bien en deux parts égales. » Quand Abou Oubaïda transmit ces paroles à Khalid, celui-ci lui répondit : « Donne-moi un délai, que je consulte ma sœur. » Il se rendit alors auprès de sa sœur Fatima – qui était (sous l’autorité ou l’épouse) du Harith ibn Hicham – et la consulta à ce sujet. Elle lui dit : « Omar ne t’aimera jamais, et il te destituera même si tu te déclares menteur. » Khalid rétorqua : « Par Dieu, tu as raison. » Abou Oubaïda partagea donc ses biens avec lui au point de prendre l’une de ses deux sandales et de lui en laisser l’autre (2), tandis que Khalid s’écriait : « J’entends et j’obéis au Commandeur des croyants. »
Ibn Jarir (4) rapporte d’après Salih ibn Kaysan que ce premier courrier envoyé par Omar à Abou Oubaïda, lorsqu’il lui confia le commandement et destitua Khalid, disait : « Je te recommande de craindre Dieu, Lui qui demeure tandis que tout autre que Lui périt. C’est Dieu qui nous a guidés après l’égarement et qui nous a fait sortir des ténèbres vers la lumière. Je t’ai nommé à la tête de l’armée de Khalid ibn al-Walid, alors assume-en la charge qui t’incombe. Ne jette pas les musulmans à la mort par convoitise du butin, ne les fais pas descendre en un lieu avant d’en avoir vérifié la sûreté (5) et de déterminer comment y accéder. Ne dépêche aucune troupe sans qu’elle soit (6) bien couverte par d’autres combattants. Garde-toi de précipiter les musulmans dans la perte. Dieu t’éprouve en ma personne et m’éprouve en la tienne. Détourne ton regard de ce monde, éloigne-en ton cœur, de peur qu’il ne te perde (7), comme il a perdu ceux qui t’ont précédé. Tu as déjà vu leurs fins funestes. » Il leur ordonna ensuite de se mettre en route vers Damas.
C’était après qu’il eût reçu la nouvelle de la victoire d’al-Yarmouk, dont on lui avait apporté l’heureuse annonce et dont on avait transporté le quint de butin jusqu’à lui. Ibn Ishaq relate que, après la bataille d’al-Yarmouk, les Compagnons combattirent à Ajnadayn, puis à Fihl, dans la région du Ghor près de Beisan, en un lieu appelé ar-Radgha (8), ainsi nommé à cause des nombreux bourbiers qu’ils y rencontrèrent. Ils y assiégèrent l’ennemi et l’entourèrent à cet endroit. Ibn Ishaq ajoute que c’est à ce moment-là que parvint à Abou Oubaïda la nomination reçue d’Omar et que Khalid fut révoqué : c’est cette arrivée du commandement à Abou Oubaïda, alors que Damas était en état de siège, qui est le fait le plus connu.