تحوي مكتبة المسجد النبوي الشريف بين دفتيها كتباً ومخطوطات نادرة وتراثاً معرفياً إسلامياً كبيراً، إلى جانب الكثير من المؤلفات المختلفة التي يستفيد منها طلبة العلم الشرعي وطلاب الدراسات العليا في إعداد رسائلهم الأكاديمية، وتضم المكتبة أقساماً متعددة، منها قاعة المطالعة التي تشتمل على قاعات مطالعة للرجال وأخرى للنساء وأخرى للأطفال، وقسم آخر للمخطوطات يقع بالدور الثاني من باب عثمان بن عفان رضي الله عنه، بالإضافة إلى قسم المكتبة الصوتية الذي يُعنى بحفظ ما يُلقى في المسجد النبوي الشريف من الدروس والخطب والصلوات، إلى جانب قسم فني يختص بتجليد وترميم وتعقيم المخطوطات. كما يوجد في المكتبة أقسام للفهرسة والتصنيف والتزويد والدوريات والمستودع، وقسم آخر للكتب النادرة يُعنى بحفظها من حيث قدم تاريخ الطبع أو الزخرفة والأشكال والصور ومكتبة رقمية، وأقسام للبحث والترجمة والإعارة. ويعود تاريخ إعادة تأسيس المكتبة إلى عام 1352هـ باقتراح من مدير الأوقاف آنذاك عبيد مدني، وكان أول مدير لها هو أحمد ياسين الخياري، وذكر صاحب كتاب خزائن الكتب العربي أن مكتبة الحرم تكونت قبل حريق المسجد النبوي في 13 رمضان عام 886 هـ، حيث احترقت خزائن المصاحف والكتب في ذلك الحريق، وكانت تضم الخزائن كتباً نفيسة ومصاحف عظيمة.