Le couvent des Ursulines date du XVIIe siècle. Les religieuses s'y consacrèrent principalement à l'enseignement ; c'était également un hospice.
Elles en furent chassées en 1792. Elles revinrent quelques années plus tard, logeant dans une maison inconfortable de l'actuelle rue des Ursulines. Elles parvinrent à racheter leur couvent 50 ans plus tard ; mais pour s'en faire chasser définitivement en 1907, suite à la loi de Séparation des Églises et de l’État.
L'ancien monastère est aujourd’hui transformé en école et locaux associatifs. Sur ses jardins se situe l'actuel stade Pinson.
Cet ancien hospice était placé sous la bénédiction de St Joseph, dont vous pouvez voir la statue ; elle a chuté du toit lors de l'ouragan de 1987.