La chapelle a été fondée au XIème-XIIème siècle par l’abbaye bénédictine de Bourgueil (diocèse d’Angers), sur les terres de l’évêque de Toul. Elle est dédiée à la Vierge et à Saint Thibaut de Provins (Saint Thiébaut en Lorraine).
En 1263, l’ermitage est cédé à Joffroi de Bourlémont, et rattache celui ci à l’hospice Saint-Eloi qu'il a créé à Gerbonvaux.
Jusque à la Révolution, les deux sont liés, mais l'hermitage est vendu comme bien national et morcelé en 1793.
En 1835, C-J-B Sainsère rachète une modeste partie de l’ancien domaine de Bermont et restaure la chapelle. En 1846, il reçoit l’écrivain et inspecteur des monuments historiques Prosper Mérimée et lui demande le classement de l’ermitage : sans suite jusqu’en … 1998. Il construit l’habitation voisine où il demeurera jusqu’à sa mort en 1848.
Jusqu'à 1902, la propriété de Bermont se transmet par héritage dans la famille Sainsère, qui y réside peu.
Elle sera successivement cédée à l’Association des Amis de Jeanne d’Arc, l'Association Diocésaine des Amis de Jeanne d'Arc,puis enfin à l'Association Diocésaine de Saint-Dié .
C'est l’Association Notre Dame de Bermont, fondée en 1992, qui s'occupe de la chapelle en vue “ de la restauration, de la gestion et de l’animation de l’ermitage, dans le respect et la continuité de son passé ”
Cet ermitage et sa chapelle sont intimement liés à l'histoire de Jeanne d'Arc. Dans son enfance, elle y venait en pèlerinage presque tous les samedis et portait des cierges devant la statue de la Sainte Vierge.
D'ailleurs c'est suite à la découverte de peintures murales du XVème siècle la représentant que la chapelle de Bermont est mise à l’inventaire supplémentaire des monuments historiques, “ en tant que témoin de l’épopée johannique ” en 1998.
Le 29 septembre 2013, une statut en bronze de Jeanne d'Arc, « La vocation de Jeanne », est inauguré à côté de la chapelle dans la continuité des commémorations du 6ème centenaire de sa naissance.
