بناه عقبة بن نافع ليكون أول جامعٍ يُبنى في المغرب العربي، وكان ذلك في 51 هجرية، وكان الجامع يعتبر معقلاً لانطلاق فتح البلاد، ونشْر الأمن والاستقرار في بلاد المغرب بشكلٍ عامٍ، وكان هذا هو دأب المسلمين في الأمصار الجديدة، وقد استغرق بناء المسجد خمسة أعوام بسبب انشغالهم بالفتوحات. أجمع المؤرخون أنه فى سنة 50 للهجرة، خطّ عقبة بن نافع مسجد «القيروان»، وأقام محرابه فيه، وأن هذا المحراب ظلّ طوال السنين موضع إجلال القوم وتقديسهم، فلم يمسه أحد منهم بسوء، وفقًا لكتاب «مساجد الاسلام»، للكاتب، أحمد فكري. تطوّر شل المحراب فيما بعد، وأصبح مقوسًا واتخذ جوفه شكلاً مستديرًا، فخيل إلى البعض أنه صورة مصغرة لمحراب الكنائس، والحقيقة أن بناة مسجد القيروان، لم يكونوا ليستطيعوا أن يضعوا محرابهم على شكل آخر، وذلك لأن عقود المسجد كلها أنصاف دوائر، ولا ينسجم شكل المحراب فى نظام بيت الصلاة بغير هذا المظهر. لم يكُن مسجد «القيروان» أول مسجد أقيم على نمط مسجد الرسول، فقد سبقته مساجد أخرى فى البصرة، وفى الكوفة، وفى الفسطاط، اتفق نظامها كلها مع الفكرة الدينية التى تحقّقت فى المدينة. يرتسم مسجد «القيروان» على سطح الأرض فى شكل مستطيل غير متساوى الأضلاع، عرضُه 77 مترًا، وفيه بهو فسيح ولهذا البهو مجنّبات يبلغ عرض كل منها حوالى 6 أمتار وربع، وتنقسم الواحدة منها إلى رواقين. ولبيت الصلاة بابان مُتقابلان، أحدهما مفتوح فى الحائط الشرقى والآخر فى الحائط الغربي، وكلاهُما عند نهايتي الأسكوب الخامس، وللمسجد 5 أبواب أخرى ينفذ من 3 منها إلى المجنبة الغربية ومن الآخرين إلى المجنبة الشرقية. يُخيل إلى الناظر داخل مسجد «القيروان»، أنه قائم فى حقل متسع من النخيل، لا يدرك النظر مداه، استبدلت جذوع النخل فيه بأعمدة من الحجارة، وليس فى هذه الهيئة التى يظهر بها بيت الصلاة، ما يقرّب الشبه بينها وبين الكنائس المسيحية، أو فناء المعابد المصرية. وقيل أيضًا إن مسجد «القيروان» اتخذ بنيانه من مسجد عمرو، وقد يكون فى هذا نصيب من الصحة، وإذا كان المسجدان يتفقان فى بعض دقائق نظامها وبنيانهما، فما ذلك إلا لأن بناتهما اتخذوا من مسجد الرسول بالمدينة نموذجًا واحدًا لهما، إلا أن الحل المعمارى الذى توصل إليه بناة مسجد عمرو، يختلف اختلافًا بيّنًا عن نظام البناء الآخر.