اُنشئت المكتبة في عام 1352هـ باقتراح من مدير الأوقاف -آنذاك- السيد عبيد مدني، لتكون مرجعًا لطلاب العلم في المسجد النبوي الشريف، وتقع في مؤخرة المسجد النبوي في الجهة الشمالية الغربية للحرم، على يسار الداخل من باب عمر -رضي الله عنه- في الطابق العلوي. وكان للسيد أحمد ياسين الخياريّ دور بارز في تكوينها؛ حيث ضم إليها بمساعيه وجهوده بعض المكتبات الخاصة، بالإضافة أنه أهدى لمكتبة المسجد المدني مكتبة والده ياسين الخياري بدواليبها، ورتبها ونظمها وفهرسها وعُني بها عناية بالغة، وكان أول مدير لها، كما أهتم بضم المكتبات الأخرى في المدينة إليها لتكون «مكتبة عامة» للمدينة المنورة. وتتكون المكتبة من عدد من المجموعات الوقفية الخاصة. ويبدأ العصر الحالي للمكتبة في 27 /5/ 1398هـ؛ وذلك ببداية عودتها من مجمع المكتبات الواقع جنوب المسجد النبوي الشريف إلى مقرها عند باب عمر -رضي الله عنه- في الجهة الشمالية من المسجد النبوي بعد تنقلات عديدة بسبب التوسعات المتكررة في العصر السعودي، واستقلالية المكتبة إداريًا عن الأوقاف وإلحاقها بوكالة الحرم النبوي الشريف. منذ إلحاق المكتبة إلى رئاسة شؤون الحرمين بدأت تخطو خطوات سريعة نحو التقدم والتطور، وتطورت الخدمات التي تقدمها لتشمل على: قاعات المطالعة، وقسم المخطوطات، وقسم الكتب النادرة، وقاعة العرض: ويوجد بها صور فوتوغرافية نادرة للحرمين يعود تاريخا لأكثر من مئة وعشرين عاما، كما يوجد بها نقش أثري قديم كتب عليه جزء من سورة الفاتحة، محفور على صخر من البازلت الأسود، عثر عليه بشعب المغسلة غرب جبل النور بمكة المكرمة ويعود هذا النقش إلى القرن الثاني الهجري، ومكتبة صوتية، ومكتبة نسائية أُنشئت في عام 1416هـ، وتقع في مصلى النساء عند باب (24)، ويوجد بالمكتبة العديد من الخدمات الأخرى التي تخدم زوارها. باحثة دكتوراه في التاريخ