همان طوری که قبلا بیان شد شتر رسول خدا(ص) در زمینی که در آن دو یتیم بود، زانو زد، حضرت زمین را از آنها خریداری نمود و مسجد مدینه را در همانجا بنا فرمود.
مسلمانان دست به کار ساختن مسجد شدند، خود پیغمبر نیز مانند یک کارگر عادی کار می کرد و سنگ و خاک به این طرف و آن طرف می برد، مسلمانان دیگر نیز اعم از مهاجر و انصار مشتاقانه کار می کردند و برای سرگرمی و رفع خستگی خود رجزهایی انشا کرده می خواندند که از آن جمله این رجز است:
لئن قعدنا و النبی یعمل
لذاک منا العمل المضلل[اگر ما بنشینیم و پیامبر کار کند براستی که کار زشت و ناروایی انجام داده ایم. ]دیگری می گفت:
لا عیش الا عیش الاخرة
اللهم ارحم الانصار و المهاجرة
[عیش و خوشی در زندگی نیست مگر در آخرت، خدایا انصار و مهاجرین را مورد حمت خویش قرار ده. ]
پیغمبر(ص)نیز همین رجز را می خواند جز آنکه به صورت شعری نمی خواند و می گفت:
لا عیش الا عیش الآخرة
اللهم ارحم المهاجرین و الانصار
و در پاره ای از روایات نیز آمده است که علی(ع)نیز این ارجوزه را می خواند:
لا یستوی من یعمر المساجدا
یداب فیه قائما و قاعدا
و من یری عن الغبار حائدا
[هیچ گاه کسی که با کوشش و جدیت تمام در حال قیام و قعود به کار ساختمان مسجد مشغول است با کسی که روی خود را از خاک و غبار می گرداند مساوی و برابر نیست. ]گویند: عمار بن یاسر نیز این ارجوزه را از علی(ع)یاد گرفته بود و می خواند، عثمان بن عفان که گوشه ای نشسته و عصایی در دست داشت این ارجوزه را از عمار شنید و پیش خود خیال کرد عمار به او گوشه می زند و منظورش از جمله آخر اوست، از این رو بر آشفته پیش آمد و گفت: ای پسر سمیه من شنیدم که چه گفتی و چنانکه گفتارت را ادامه دهی با این عصا بینی تو را خرد خواهم کرد.
پیغمبر(ص)که این سخن را از عثمان شنید غضبناک شده فرمود:
- اینان را با عمار چه کار؟عمار آنها را به سوی بهشت می خواند و آنها او را به طرف آتش دوزخ دعوت می کنند، همانا عمار پوست میان دو چشم من است. . .
آن گاه فرمود:
- از این پس اگر سخنی از آن مرد(یعنی عثمان)شنیدید به وی اعتنا نکرده و از او دوری کنید!
نگارنده گوید: چنانکه از روایات به دست می آید مسجد مدینه در زمان رسول خدا(ص)دو بار بنا شده، یکی همان بار اول بود که پس از ورود آن حضرت به ترتیبی که گفته شد انجام گردید.
و بار دوم پس از جنگ خیبر و در سال هفتم هجرت بود که تغییرات و توسعه ای در آن دادند، که شاید در جای خود مذکور گردد، و از این رو برخی عقیده دارند داستان عمار و گفتار او با عثمان، و خبر رسول خدا(ص)از آینده عمار همگی مربوط به سال هفتم و بنای دوم مسجد بوده است، و شواهدی هم برای این مطلب ذکر کرده اند، و الله اعلم.
سرانجام کار مسجد به پایان رسید و به دستور پیغمبر خدا دیوارهای اطراف آن را به طول یک قامت بالا بردند و چون مدتی بر این منوال گذشت و مسلمانان در اوقات نماز دچار گرما و آفتاب می شدند پیشنهاد ساختن سقفی را برای مسجد به آن حضرت دادند و رسول خدا(ص)موافقت کرده قسمتی از مسجد را ستون زده و روی آن را با شاخه و برگ خرما پوشاند.