Habib bin Zaid merupakan sahabat Anshar yang memeluk Islam pada masa awal, sebelum Nabi SAW hijrah ke Madinah, yakni pada Ba'iatul Aqasbah kedua. Saat itu ia hadir di Mina (Bukit Aqabah) bersama kedua orang tuanya, Zaid bin Ashim dan Nusaibah binti Ka'ab, pahlawan wanita Islam yang lebih dikenal dengan nama Ummu Umarah. Bisa jadi sebelumnya mereka telah memeluk Islam di Madinah lewat dakwah sahabat Nabi SAW, Mush'ab bin Umair, dan mengukuhkan keislamannya di hadapan Nabi SAW pada Ba'iatul Aqabah kedua tersebut.
Seperti umumnya sahabat pada masa awal, Habib membaktikan hidupnya untuk berjuang membela dan menegakkan panji-panji Islam di bumi Arabia. Pada perang Uhud, ia berjuang bahu membahu dengan ibunya Nusaibah dan beberapa sahabat lainnya dalam menghadang serangan kaum kafir Quraisy yang mengarah kepada Nabi SAW. Saat itu keadaan beliau sangat kritis, karena terjatuh dalam lubang dan dalam keadaan terluka. Tetapi kisah paling menarik dalam kehidupannya adalah ketika Musailamah al Kadzdzab mengangkat dirinya sebagai nabi, sebagai sekutu dari Nabi Muhammad SAW dalam kenabian.
Musailamah adalah seorang tokoh dari Bani Hanifah di Yamamah, ia mempunyai kekuatan pasukan perang yang ditakuti oleh kabilah Arab lainnya. Sebelum dipegang Musailamah, pemimpin Yamamah adalah Haudzah bin Ali. Nabi SAW pernah mendakwahi Haudzah untuk memeluk Islam. Sahabat Salith bin al Amiry yang membawa surat dakwah Nabi SAW ini diterima dengan baik dan ramah oleh Haudzah. Ia bersedia memeluk Islam sesuai ajakan Nabi SAW, tetapi mengajukan syarat untuk berbagi kekuasaan. Ia mengirim surat balasan tersebut dan memberikan berbagai macam hadiah bagi Nabi SAW, tetapi beliau tidak menanggapi syarat Haudzah.
Ketika Nabi SAW dalam perjalanan pulang dari Fathul Makkah, beliau mendengar kabar kematian Haudzah dari Malaikat Jibril. Beliau memberitahukan kematian Haudzah kepada para sahabat, kemudian bersabda, "Dari Yamamah ini, akan muncul seorang pendusta yang mengaku sebagai nabi. Dia akan menjadi pembunuh sepeninggalku…"
Ketika ada yang bertanya tentang siapa yang dibunuhnya, beliau bersabda, "Kalian dan teman-teman kalian….."
Pengakuan Musailamah sebagai nabi dan rasul tersebut ternyata mendapat dukungan cukup besar, khususnya dari pasukannya dan penduduk Yamamah. Dengan kekuatan yang dimilikinya, ia melakukan penyebaran kebohongannya tersebut dan memaksa mereka mempercayainya. Jika menolak, mereka akan mengalami teror dan penyiksaan yang tak terkira. Dan puncak kedurhakaannya adalah ketika ia mengirim surat kepada Nabi SAW untuk menuntut hak kenabian dan kekuasaan karena merasa berserikat dalam kenabian, bahkan dengan kurang ajarnya, ia menulis dalam awal suratnya,"Dari Musailamah Rasulullah kepada Muhammad Rasulullah….."
Nabi SAW mengirim balasan surat kepada Musailamah untuk membuka kedok kebohongannya, dan agar menghentikan provokasinya kepada masyarakat Arab. Dan pilihan Nabi SAW untuk membawa surat tersebut adalah Habib bin Zaid. Habib tahu betul resiko apa yang akan dihadapinya jika bertemu Musailamah dalam menyampaikan surat Nabi SAW. Tetapi baginya, resiko tersebut tidak ada bedanya dengan menerjuni berbagai pertempuran yang selama ini dilakukannya bersama beliau dan para sahabat lainnya, justru kesyahidan-lah yang selalu didambakannya. Karena itu dengan tegar dan semangat baja, dibawalah langkahnya menuju tempat kediaman Musailamah di Yamamah.
Sesungguhnya telah menjadi etika umum saat itu, seorang utusan tidak boleh dilukai dan dibunuh, semarah apapun kepada mereka dan pengirimnya, kecuali jika ia juga menjadi mata-mata. Tetapi Musailamah memang penipu yang licik dan sombong, yang tidak lagi menghargai etika dalam hubungan antar bangsa dan kabilah. Ketika Habib menyerahkan surat dari Nabi SAW, Musailamah membaca dengan angkuhnya kemudian memerintahkan anak buahnya untuk menangkap Habib dan menyiksanya tanpa peri kemanusiaan.
Keesokan harinya, Musailamah mengumpulkan rakyat Yamamah dan para pendukungnya seperti ketika ada peristiwa dan pertemuan penting. Ia berfikir, setelah siksaan demi siksaan yang ditimpakan kepada Habib, utusan Rasulullah SAW itu akan berubah pikiran dan bersedia mengakui kenabian dirinya, dan ia ingin menunjukkan hal itu kepada rakyat Yamamah untuk mengokohkan kedudukannya.
Setelah rakyat Yamamah berkumpul mengitari suatu panggung yang disiapkan, Habib didatangkan. Masih jelas terlihat bekas-bekas siksaan di tubuhnya, wajahnya tampak lesu dan patah semangat seakan-akan telah menyerah. Musailamah sangat gembira melihat penampilan Habib tersebut, ia sudah sangat "kepedean" bahwa rencananya akan berhasil. Ia menghadap kepada Habib dan berkata, "Apakah engkau mengakui Muhammad itu sebagai utusan Allah?"
"Benar," Kata Habib, "Saya mengakui Muhammad SAW adalah utusan Allah!!"
Musailamah berkata lagi, "Dan engkau mengakui juga aku sebagai utusan Allah?"
"Apa?" Kata Habib seolah-olah ia orang yang tuli, "Engkau berkata apa? Aku tidak mendengar apapun?"
Wajah Musailamah menjadi merah padam tanda kemarahan mulai menyelimutinya. Tetapi ia masih mencoba mengendalikan dirinya. Sekali lagi ia berkata, "Apakah engkau mengakui Muhammad itu sebagai utusan Allah?"
"Benar, saya mengakui Muhammad adalah utusan Allah!!" Kata Habib.
Dan ketika Musailamah berkata lagi, "Dan engkau mengakui juga aku sebagai utusan Allah?"
Seakan-akan ia orang yang tuli, Habib berkata dengan lantang, "Apa? Engkau berkata apa? Aku tidak mendengar apapun?"
Musailamah memuncak amarahnya, wajahnya menjadi hitam. Ia memerintahkan algojonya untuk menusuk Habib dengan pedangnya, tetapi tidak sampai membunuhnya. Kemudian algojo tersebut menyayat dan memotong tubuh Habib bagian demi bagian, seonggok daging demi seonggok daging, yang kesemuanya itu tidak langsung membunuhnya. Bisa dibayangkan bagaimana sakitnya, tetapi tidak sedikitpun kata keluhan keluar dari mulut Habib kecuali kalimat tauhid, Laa ilaaha illallah Muhammadur rasulullah, hingga ruhnya naik menuju hadirat Allah SWT.
Sebenarnyalah kalau Habib "berpura-pura" mengakuinya, tetapi jauh di dalam hatinya menolak pengakuan tersebut dan memantapkan hatinya atas kalimat tauhid, tentulah ia masih dimaaafkan. Hal ini pernah disampaikan Nabi SAW kepada Ammar bin Yasir, dan juga beliau pernah berkomentar tentang tawanan Musailamah (Lihat kisah "Dua Tawanan Musailamah al Kadzdzab"). Tetapi keimanan telah merasuk ke dalam tulang sum-sumnya sehingga bagi Habib tidak ada kompromi dan tawar-menawar dalam hal keyakinannya akan Allah dan RasulNya.
Berita syahidnya Habib bin Zaid ini sampai ke Madinah, Nabi SAW mendoakan kebaikan bagi Habib, sementara Nusaibah, ibu Habib bin Zaid langsung mengucapkan sumpah untuk melakukan balas dendam kepada Musailamah. Ia berkesempatan mengikuti perang Yamamah di masa Abu Bakar, ia berperan serta memporak-porandakan pasukan Musailamah yang sebelumnya sempat mengalahkan pasukan muslim, tetapi ia tidak sempat membunuh Musailamah, karena telah didahului oleh Wahsyi dengan tombak mautnya, tombak yang juga telah menewaskan paman dan sahabat Nabi SAW, Hamzah bin Abdul Muthalib di perang Uhud.