L’église romane qui se construit à partir de la fondation des chanoines réguliers de la Roë, se compose d’une longue nef de sept travées et de cent pieds de long, simplement couverte d’une charpente. La nef ouvre sur un transept très saillant par deux passages latéraux et sur la croisée, couverte d’une tour de clocher. Chaque bras est doté à l’Est d’une absidiole orientée et le chœur lui-même se compose d’une abside.
Cet édifice sera dédicacé le 9 août 1137, mais les travaux se poursuivent pendant quelques décennies encore. En effet, les bras de transept et la croisée seront couverts de voûtes à croisée d’ogives de type angevin reposant sur des colonnes à chapiteaux feuillus. Sculpture et profil de voûte indiquent clairement que ces travaux datent des années 1150-1165.
L’abbaye de la Roë étant la première de l’ordre de saint Augustin fondée dans la province ecclésiastique de Tours, elle règne sur tout un réseau de prieurés et de paroisses situé principalement en Anjou, Maine et Touraine.
A l’extrême fin du XVe et au début du XVIe siècle, les baies des trois dernières travées de la nef et du transept sont agrandies et dotées de réseau à rem plage flamboyant. Sous la cinquième baie de la nef, côté Nord, une chapelle mariale est élevée, portant les armes de Guy Le Clec, abbé de 1493 à 1523. Le chœur est reconstruit et doté de deux travées droites terminées par une abside à pans coupés. Éclairé par des vitraux de grande qualité, le sanctuaire accueillait un ensemble de soixante-dix stalles réalisées au début du XVIe siècle.
Pendant les Guerres de Religion, l’église et l’abbaye sont pillées par les Protestants le 7 juillet 1562 et le 22 mai 1572.
Une première campagne de restauration a lieu au début du XVIIe siècle, accompagnée de l’achat et de l’installation du mobilier. Pour ce faire, la partie basse des piles de la croisée est découpée, affaiblissant la structure. La seconde campagne de travaux concerna les bâtiments conventuels dont la reconstruction se déroula entre 1700 et 1706