Sa'd bin Mu'adz adalah salah satu tokoh bani Abdul Asyhal di Madinah. Ia sangat prihatin karena kerabatnya yang juga tokoh kaumnya, As'ad bin Zurarah telah meninggalkan agama nenek moyangnya (agama jahiliah yang menyembah berhala), dan bersama sahabat yang diutus Nabi SAW dari Makkah, Mush'ab bin Umair bergerak aktif mendakwahkan Islam kepada masyarakat Madinah. Ia merasa tidak enak untuk menghalangi As'ad karena hubungan kekerabatannya, karena itu ia minta tolong kepada Usaid bin Hudhair. Ia berkata kepada Usaid, "Pergilah kamu menemui mereka berdua, usir dan laranglah mereka memperbodoh orang-orang yang lemah dari kaum kita. Kalau saja As'ad bin Zurarah bukan anak bibiku, tentu aku sendiri yang akan melakukannya."
Usaid memenuhi permintaan Sa'd, ia mengambil tombaknya dan menemui As'ad dan Mush'ab yang berada di kebun bani Zhafar. Agak lama berselang, Usaid datang lagi menemui Sa'd yang berada di tengah kaumnya. Sa'd melihat ada sesuatu yang berbeda dengan Usaid, ia berkata kepada kaumnya, "Aku bersumpah kepada kalian dengan nama Allah, sesungguhnya Usaid mendatangi kalian dengan wajah yang berbeda dengan wajahnya ketika meninggalkan kalian."
Setelah dekat, Usaid berkata kepada Sa'd, "Wahai Sa'd, aku telah berbicara pada mereka berdua, dan aku tidak melihat ancaman apapun darinya. Dan telah kusampaikan apa yang kau inginkan, tetapi mereka berkata 'Lakukan saja apa yang kamu suka'. Dan aku mendengar berita kalau bani Haritsah bermaksud membunuh As'ad karena tahu dia adalah anak bibimu, sepertinya mereka meremehkan dirimu."
Mendengar kabar ini Sa'd menjadi marah sekaligus khawatir akan keselamatan As'ad. Bagaimanapun ikatan kekeluargaan itu lebih kuat dari ‘ancaman’ agama baru itu. Ia mengambil tombaknya dan bergegas menuju kebun bani Zhafar. Tetapi sampai disana, ia melihat As'ad dan Mush'ab dalam keadaan tenang tanpa sedikitpun ketakutan, ia sadar kalau Usaid menyiasatinya agar menemui dua orang itu. Kepalang basah, ia berdiri di hadapan mereka berdua dengan marah dan mencaci maki As'ad. Ia berkata, "Hai Abu Umamah (kunyahnya As’ad bin Zurarah), demi Allah, jika tidak ada hubungan kekeluargaan antara kita, kamu tidak akan meminta ini dariku. Adakah kamu datang ke tempat tinggal kami dengan membawa sesuatu yang kami benci?"
As'ad diam saja, justru Mush'ab bin Umair yang menjawab. Seperti halnya kepada Usaid, Mush'ab berhasil membujuk Sa'd untuk mau mendengarkan. Kalau ada sesuatu yang tidak disukainya, ia bebas menolaknya dan jika halitu baik, ia bisa menerimanya. Sa'd setuju dengan pendapat itu dan ia duduk.
Mush'ab mulai menjelaskan tentang Islam dan juga membacakan beberapa ayat Al- Qur'an, yaitu ayat-ayat awal surataz Zukhruf. Setelah penjelasan Mush'ab ini, mata Sa'd berbinar penuh minat, ia bertanya, "Apa yang harus aku lakukan jika ingin masuk agama ini?"
As'ad menyuruhnya mandi dan bersuci, membersihkan pakaiannya dan bersyahadat dengan syahadat yang sebenarnya, kemudian melakukan shalat dua rakaat. Sa'd melakukan apa yang dikatakan As'ad dan Mush'ab membimbingnya bersyahadat dan shalat. Sa'd pun memeluk Islam dengan perantaraan Mush'ab sebagaimana Usaid.
Sa'd kembali kepada kaumnya, dan mereka menyambutnya dengan ucapan, seperti ucapan Sa'd ketika melihat kedatangan Usaid bin Hudhair, "Sesungguhnya Sa'd telah kembali kepada kita dengan wajah yang berbeda dari saat dia meninggalkan kita."
Ketika telah dekat dan berada di antara kaumnya, Sa'd berkata kepada mereka, "Wahai bani Abdul Asyhal, apakah yang kalian ketahui tentang kedudukanku di tengah kalian?"
Mereka menjawab, "Engkau adalah ketua kami, sebaik-baiknya orang dalam memberikan pendapat, dan selalu menang dalam menuntut…!"
"Sesungguhnya perkataan kaum lelaki dan wanita dari bani Abdul Asyhal dari kalangan kamu adalah haram bagiku, sehingga kalian beriman kepada Allah dan RasulNya, Muhammad SAW." Kata Sa'd.
Maka sebelum petang pada hari itu, seluruh anggota bani Abdul Asyhal memeluk Islam sebagaimana dikatakan oleh Usaid bin Hudhair sebelumnya, dan ini menjadi kampung Islam pertama di kotaMadinah.
Sa’d bin Mu’adz meninggal sebelum menikmati masa kejayaan Islam. Ia terluka parah akibat terkena panah pada Perang Khandaq atau Perang Ahzab. Namun ia berdoa agar diberikan waktu untuk bisa memberikan ‘pengadilan’ kepada orang-orang Yahudi Bani Quraizhah, yang telah melakukan pengkhianatan pada Perang Khandaq. Bani Quraizhah merupakan sekutu terbaik dari kaumnya pada masa jahiliah, dan tetap terjalin hubungan yang baik ketika kaumnya memeluk Islam. Tetapi ketika Madinah dikepung oleh musuh, mereka justru bersekutu dengan kaum Quraisy dan kaum Ghathafan, dan siap-siap menyerang kaum muslimin dari dalam kota Madinah. Setelah memberikan keputusan atas pengkhianatan mereka itu, Sa’d menemui syahidnya. Nabi SAW bersabda, “Arsy Allah Yang Maha Pemurah berguncang karena kematian Sa’d bin Muadz!!”
Orang-orang yang mengangkat jenazahnya juga berkata, “Alangkah ringannya jenazah Sa’d bin Muadz ini!!”