فكان المجتمع الإسلامي الأول يتكون من المهاجرين والأنصار وكان بالمدينة أيضا بعض اليهود وهم بقية بني إسرائيل يضاف إليهم من تهود من العرب وكان الرسول صلى الله عليه وسلم بالإضافة إلى صفته الدينية هو القائد والمعلم لهذا المجتمع فأخذ في بنائه على أسس سليمة تضمن لهذا المجتمع التقدم والازدهار والتصدي لحمل أعباء الدين الجديد وأهم هذه الأسس هي تقوى الله والمؤاخاة والمساواة والأسوة الحسنة وتنظيم العلاقات بين المسلمين وغيرهم كان أول عمل قام به الرسول صلى الله عليه وسلم لما هاجر إلى المدينة المنورة هو بناء المسجد وقد شارك صلى الله عليه وسلم بنفسه في هذا البناء وكان هذا العمل يرمز إلى أهمية المسجد في حياة المجتمع والمسجد هو بيت الله وهو المكان الذي يتردد عليه المسلم خمس مرات يوميا يناجي ربه ويقف بين يديه متضرعا إليه راكعا ساجدا مهللا ومكبرا ومن هنا تغرس في قلبه تقوى الله سبحانه وتعالى تقوى الله والتقوى هي خير زاد يتزود به المسلم في حياته قال تعالى وتزودوا فإن خير الزاد التقوى واتقون يا أولي الألباب البقرة والتقوى زاد القلوب والأرواح منه تقتات وبه تتقوى وترف وتشرق وعليه تستند في الوصول والنجاة وأولوا الألباب هم أول من يدرك التوجيه إلى التقوى وخير من ينتفع بهذا الزاد
لما هاجر الرسول صلى الله عليه وسلم من مكة المكرمة إلى المدينة المنورة شرع عليه الصلاة والسلام في بناء المجتمع الإسلامي الجديد بعد أن تم بناء الفرد المسلم في مكة وكانت الظروف مواتية لبناء هذا المجتمع إذ كان المسلمون يمثلون الكثرة الغالبة لسكان المدينة المنورة فكانوا يتكونون من المهاجرين من مكة الذين فروا بدينهم من طغيان المشركين وجبروتهم وكذلك من أهالي المدينة الأصليين من قبيلتي الأوس والخزرج ممن طفقوا يدخلون في الدين الجديد وكانوا يسمون بالأنصار