Sur la tombe même du saint ermite où l'on venait en pélerinage, commença à s'ériger une église. L'oeuvre allait être magistrale et capitale mais sa construction commencée au IXè siècle connut des interruptions, si bien qu'il fallut attentre le début du XIVè siècle pour voir la nef enfin raccordée au transept.
Hélas, en 1574, les protestants maîtres de la place transformèrent l'église en forteresse et en 1622 commença avec le Duc de Rohan sa démolition systématique. Il ne subsista que la façade, le coeur et la crypte. Les reconstructions et restaurations ne donnèrent guère à l'abbatiale son aspect primitif, mais la façade aux trois portails inégaux est une des plus belles oeuvres de l'art roman qui puisse se voir de nos jours. On a coutume de dire que la façade est, avec celle de l'église de Tournus, l'une des plus belles de France. Deux formules du classicisme antique se retrouvent dans l'ordonnancement des portails : portique à colonnes et statues dans des niches. Les hauts reliefs et leurs thèmes sont aussi très significatifs. Passion et Résurrection sont dues au Maître Brunus et ses élèves et à celui que l'on nomme le Maître de Saint- Michel, venu plus tard. Malgré de nombreuses polémiques, on situe la période de réalisation vers 1140-1160. Il semble que le choix de thèmes forts ait été dicté pour lutter contre les "nouvelles idées", alors que le provençal Pierre de Bruys, précurseur de l'hérésie, avait été brûlé par la foule une décennie plus tôt en ces lieux.