C’est l’un des plus anciens monuments chrétiens d’Occident. Édifié au Ve siècle, remanié jusqu’à la fin du XIe siècle, sauvé de la démolition en 1834 et aujourd’hui classé « Monument historique », il faisait partie, durant le haut Moyen Âge, d’un complexe épiscopal comprenant la cathédrale et la résidence de l’évêque. Particulièrement remarquables, les peintures romanes qui recouvrent les parois de la salle baptismale ainsi que l’ancienne piscine octogonale servant aux baptêmes par immersion.