Le chevet et l'abside de ce sobre édifice restauré sont romans et comprennent un joli portail de plein cintre orné de statues de la Vierge et de saint Ursanne. À l'intérieur, le choeur roman abrite un autel à baldaquin baroque. La crypte est romane mais la nef est d'un style gothique primitif (13e s.). L'église abrite un cloître gothique et un musée lapidaire où se trouvent des sarcophages du 7e au 9e s.