Didirikan oleh jenderal Arab Uqba ibn Nafi pada 670M atau 50H, masjid ini memiliki luas tanah sekitar 9.000 meter persegi dan merupakan salah satu tempat Masjid tertua di dunia, Masjid ini menjadi model utama dalam setiap pembangunan masjid di kemudian hari di Maghreb. Masjid Agung Kairouan adalah salah satu monumen Islam yang paling mengesankan dan terbesar di Afrika Utara. Masjid ini memiliki ruang sholat bergaya hypostyle, halaman berlantaikan marmer dan menara persegi. Masjid Uqba adalah salah satu karya arsitektur Islam.

Masjid ini menjadi pusat pemikiran intelektual pada masa Aghlabids (abad ke-9), dimana lahir karya-karya besar karena daya tarik masjid ini mendorong para cendikiawan dan sarjana untuk mengajar di masjid, yang menjadikannya pusat pendidikan baik dalam pemikiran Islam maupun dalam ilmu sekuler. Perannya dapat dibandingkan dengan Universitas Paris pada Abad Pertengahan. Namun pada abad ke-11 kota Kairouan mengalami kemunduran sehingga pusat pemikiran intelektual pindah ke Universitas Ez-Zitouna di Tunisa.