لما أيقن خالد بن الوليد رضي الله عنه من انهزام العدو اشتاق الى زيارة مكة وإلى تأدية فريضة الحج متخفيا من غير أن يستأذن ابا بكر رضي الله عنه فأمر جيشه بالعودة إلى الحيرة وتظاهر بأنه سائر في مؤخرة الجيش، فبدأ رحلته إلى مكة ومعه عدد من أصحابه، لخمس بقين من ذي القعدة ولم يكن معه دليل، فاخترق الصحراء مسرعا رغم صعوبة الطريق.
ولما أدى فريضة الحج عاد إلى الحيرة أوائل فصل الربيع فكانت غيبته على الجند يسيرة، فما وصلت إلى الحيرة مؤخرة الجيش حتى وافاهم خالد رضي الله عنه مع صاحب الساقة فقدما معا، وخالد وأصحابه محلقون، وقد كان تكتمه شديدا حتى إنهم ظنوا أنه كان في هذه المدة بالفراض، ولم يعلم أبو بكر رضي الله عنه بحج خالد مع أنه كان في الحج ايضا، غير انه بعد قليل بلغه الخبر فاستاء جدا وعتب عليه، وكانت عقوبته ان صرفه الى الشام ليمد جموع المسلمين باليرموك فأرسل إليه كتابا هذا نصه:
«سر حتى تأتي جموع المسلمين باليرموك فإنهم قد شجوا وأشجوا، وإياك ان تعود لمثل ما فعلت، فإنه لم يشج الجموع من الناس بعون الله شجاك، ولم ينزع الشجى من الناس نزعك، فليهنئك أبا سليمان النية والخطوة، فأتمم يتمم الله عليك، ولا يدخلنك عجب فتخسر وتخذل، وإياك أن تدل بعمل فإن الله له المن وهو ولي الجزاء».