يقع مسجد الراية إلى الجهة الشمالية من المسجد النبوي الشريف على جبل يسمى "ذبابا" والذي ركز النبي صلى الله عليه وسلم رايته المنصورة عليه في غزوتي خيبر وتبوك، كما وقف سلمة بن الأكوع وصرخ نذيرا بأخذ عيينة بن حصن للقاء النبي صلى الله عليه وسلم فسمع الناس صراخه فكانت غزوة الغابة، وقد سبق سلمة الخيل بقدميه وناوش العدو بالرماية، حتى جاء النبي الكريم وكان عيينة والفزاريون معه قد هربوا وتركوا ما بأيديهم فقسمه غنيمة في أصحابه وفرض لسلمة سهمين لسبقه الخيل على رجليه لكونه من عدائي العرب، وفي الروايات أن النبي صلى الله عليه وسلم ضرب قبته يوم الخندق في هذا الموضع ليشرف على أعمال حفر الخندق، وإلى شماليه اعترضت صخرة للصحابة فأرسلوا إليه سلمان الفارسي رضي الله عنه، فنزل النبي الخاتم وأخذ المعول بيده وكان يسمي ثم يكبر وضرب الصخرة ضربات ثلاث صارت بعدها كثيبا مهيلا بشر خلالها بفتح الشام وفارس واليمن، والمسجد مبني على الطراز القديم له محراب غير واضح البروز، ذكر المؤرخ السمهودي أن عمر بن عبدالعزيز بناه أثناء ولايته على المدينة، وكان مبنيا بالحجارة المطابقة على صفة المساجد العمرية، وقد تم ترميم المسجد حديثا ضمن مشروع "ترميم المساجد التاريخية" بهدف المحافظة عليه والعناية به وإعادة تأهيله، وإظهار قيمتها الدينية والحضارية والعمرانية، حيث أعدت هيئة تطوير منطقة المدينة المنورة خطة للعناية بالمساجد التاريخية على مستوى المنطقة لإعادة تأهيل وترميم المساجد التاريخية، مثل ترميم مسجد الجمعة، المساجد السبعة والراية وغيرها.