Setelah beberapa hari berlalu semenjak Nabi SAW dan pasukannya meninggalkan Madinah menuju Tabuk, Abu Lubabah beserta tiga (atau dua, dalam riwayat lainnya) temannya menyadari kesalahannya. Mereka menyesal, tetapi mustahil untuk mengejar atau menyusul pasukan tersebut. Abu Lubabah berkata, "Kita di sini berada di naungan pohon yang sejuk, hidup tentram bersama istri-istri kita, sedangkan Rasulullah beserta kaum muslimin sedang berjihad…sungguh, celakalah kita…."
Tak habis-habisnya mereka menyesal, mereka yakin bahwa ancaman akan menimpa alasannya yaitu ketertinggalannya ini. Untuk mengekspresikan penyesalannya ini, Abu Lubabah berkata kepada kawannya, "Marilah kita mengikatkan diri ke tiang masjid, kita tidak akan melepaskan diri kecuali kalau Rasulullah sendiri yang melepaskannya…!!"
Teman-temannya, Aus bin Khudzam, Tsa'labah bin Wadiah dan Mirdas (atau tanpa Mirdas, pada riwayat dua orang temannya) menyetujui ajuan ini. Mereka tetap terikat pada tiang tersebut hingga Nabi SAW pulang, kecuali ketika mereka akan melaksanakan shalat. Ketika Nabi SAW pulang dari Tabuk dan masuk ke Masjid, dia berkata, "Siapakah yang diikat di tiang-tiang masjid itu?"
"Abu Lubabah dan teman-temannya yang tidak menyertai engkau berjihad, ya Rasulullah," Kata seorang sahabat, "Mereka berjanji tidak akan melepaskan diri, kecuali kalau tuan yang melepaskannya…!!"
Nabi SAW bersabda, "Aku tidak akan melepaskan mereka kecuali kalau menerima perintah dari Allah…!!"
Dalam riwayat lain disebutkan, bahwa Nabi SAW bersabda perihal mereka, "Aku tidak akan melepaskannya hingga saatnya ada pertempuran lagi…!!" Suatu hari menjelang subuh, ketika itu Nabi SAW sedang berada di rumah Ummu Salamah, tiba-tiba dia tertawa kecil. Ummu Salamah heran dengan perilaku dia ini dan berkata, "Apa yang engkau tertawakan, Ya Rasulullah?"
"Abu Lubabah dan teman-temannya diterima taubatnya…!!" Kata Nabi SAW.
Saat itu Nabi SAW memang mendapatkan wahyu, Surah Taubah ayat 102, yang menegaskan diterimanya taubat mereka yang berdosa alasannya yaitu ketertinggalannya menyertai jihad bersama Nabi SAW. Ummu Salamah berkata, "Bolehkah saya memberitahukan kepada Abu Lubabah, ya Rasulullah..?" "Terserah engkau saja..!!" Kata Nabi SAW
Ummu Salamah bangun di depan pintu atau jendela kamarnya yang memang menghadap masjid dan berkata, "Hai Abu Lubabah, bergembiralah dikarenakan telah diampuni dosamu, telah diterima taubatmu…!!"
Mereka bergembira, begitu juga dengan para sahabat yang telah berkumpul di masjid untuk shalat shubuh. Mereka ini ingin melepaskan ikatan Abu Lubabah dan teman-temannya, tetapi Abu Lubabah berkata, "Tunggulah hingga tiba Rasulullah dan melepaskan sendiri ikatanku…!!" Nabi SAW masuk masjid dan melepaskan sendiri ikatan-ikatan mereka. Pagi harinya, Abu Lubabah dan tiga temannya menghadap Nabi SAW sambil membawa harta yang dipunyainya. Ia berkata, "Ya Rasulullah, inilah harta benda kami, shadaqahkanlah atas nama kami, dan tolong mintakan ampunan bagi kami…."
Nabi SAW bersabda, "Aku tidak diperintahkan untuk mendapatkan harta sedikitpun (berkaitan dengan penerimaan taubat ini)…!!" Tetapi tak usang berselang, Nabi SAW memperoleh wahyu, Surah Taubah ayat 103, yang memerintahkan semoga dia untuk mendapatkan shadaqah dari Abu Lubabah dan teman-temannya, dan mendoakan mereka. Beliau melaksanakan perintah ayat tersebut, dan itu menciptakan Abu Lubabah dan teman-temannya menjadi lebih besar hati dan tentram hatinya.
Riwayat lain menyebutkan, kejadian Abu Lubabah mengikatkan diri di tiang Masjid Nabi bukan berkaitan dengan Perang Tabuk, tetapi dengan Perang Bani Quraizhah.
Setelah berakhirnya Perang Khandaq (parit) atau Perang Ahzab alasannya yaitu pasukan kaum kafir Quraisy dan sekutu-sekutunya diporak-porandakan oleh angin dan angin puting-beliung di waktu subuh, Nabi SAW dan kaum muslimin segera kembali ke Madinah. Angin dan angin puting-beliung tersebut bahwasanya yaitu pasukan malaikat yang dikirim Allah untuk membantu kaum muslimin, dan di waktu dhuhur, Jibril yang menjadi pimpinan pasukan malaikat menemui Nabi SAW sambil berkata, “Wahai Muhammad, mengapa engkau meletakkan senjata sedangkan kami belum meletakkan senjata. Serulah mereka untuk menuju Bani Quraizhah, dan kami akan berada di depanmu. Akan saya guncangkan benteng mereka dan saya susupkan ketakutan di hari mereka…!!” Bani Quraizhah yaitu kaum Yahudi di Madinah yang terikat perjanjian tenang dan kerjasama dengan Nabi SAW dalam Piagam Madinah. Tetapi ketika terjadi pengepungan Madinah oleh pasukan kafir Quraisy dan sekutunya, mereka justru berpihak kepada pasukan musuh dan memasok kebutuhan makanannya. Mereka juga berencana menyerang penampungan kaum perempuan dengan mengirim seorang biro belakang layar terlebih dahulu. Untung saja, berkat keberanian bibi Rasulullah SAW, Shafiyyah binti Abdul Muthalib, mereka membatalkan rencananya itu. Shafiyah berhasil membunuh biro belakang layar tersebut dan menggelindingkan mayatnya ke arah pasukan Bani Quraizhah yang siap menyerang, alasannya yaitu itu mereka beranggapan bahwa ada pasukan muslim yang menjaga para kaum wanitanya, padahal tidak ada.
Segera saja Nabi SAW memerintahkan Bilal untuk menyerukan panggilan jihad, “Siapa saja yang tunduk dan patuh, janganlah melaksanakan shalat ashar kecuali di Bani Quraizhah!!”
Dalam kondisi gres tiba (pulang) sesudah mempertahankan diri dari pengepungan kaum kafir Quraisy dan sekutunya selama satu bulan, ternyata tidak gampang untuk mengumpulkan seluruh pasukan. Karena itu Nabi SAW memerintahkan semoga mereka yang telah siap, walau dalam kelompok yang kecil, semoga segera berangkat. Kelompok demi kelompok alhasil berkumpul di daerah Bani Quraizhah ketika telah menjelang waktu isya’, dan pada dikala itulah mereka melaksanakan shalat ashar sesuai perintah Nabi SAW.
Kaum muslimin melaksanakan pengepungan selama beberapa hari lamanya, dan alhasil pemimpin Bani Quraizhah, Ka’b bin Asad mengirim utusan kepada Nabi SAW sebagai tanda menyerah. Tetapi mereka juga meminta Nabi SAW mengirim Abu Lubabah untuk melaksanakan pembicaraan dan mendengar pendapatnya. Abu Lubabah memang sekutu terbaik kaum Yahudi Bani Quraizhah sebelum Islam datang, bahkan dikala itu harta kekayaan dan anak Abu Lubabah ada yang masih tinggal (tertinggal) di wilayah kaum Yahudi tersebut. Dan ternyata, dalam situasi yang menyerupai itu Nabi SAW memenuhi seruan mereka.
Ketika Abu Lubabah memasuki benteng dan perkampungan Bani Quraizhah, mereka mengelu-elukan dirinya, para perempuan dan belum dewasa menangis di hadapannya. Hal itu menciptakan Abu Lubabah terharu dan merasa kasihan. Ka’b berkata, “Wahai Abu Lubabah, apakah kami harus tunduk kepada keputusan Muhammad??”
“Begitulah!!” Kata Abu Lubabah, tanpa sadar ia memberi instruksi dengan tangannya yang diletakkan di lehernya, instruksi bahwa mereka akan dieksekusi mati. Mungkin alasannya yaitu suasana yang dilihatnya atau rasa kedekatannya selama ini yang menciptakan ia bersikap menyerupai itu. Tetapi seketika itu ia menyadari apa yang dilakukannya, yang sama artinya bahwa ia telah mengkhianati Allah dan Rasul-Nya. Tanpa bicara apa-apa lagi ia berlari keluar, bukannya kembali menghadap Nabi SAW, tetapi menuju masjid Nabawi dan mengikatkan dirinya di tiang masjid sembari bersumpah tidak akan pernah memasuki Bani Quraizhah, dan juga tidak akan melepaskan ikatannya kecuali Nabi SAW sendiri yang melepaskannya.
Rasulullah SAW menunggu-nunggu kedatangan Abu Lubabah, alasannya yaitu tidak tiba juga, dia mengirimkan seorang utusan lainnya. Setelah mendengar perihal apa yang dilakukannya, dia bersabda, “Andaikata ia tiba kepadaku, tentu saya akan memaafkannya. Tetapi alasannya yaitu ia telah berbuat menyerupai itu (yakni dengan diikuti sumpah), maka saya tidak sanggup melepaskannya kecuali kalau ia benar-benar bertaubat kepada Allah!!” Selanjutnya sama dengan cerita di atas.