A mi-chemin entre la citadelle et la crête des Buis, à cinq cents mètres de la route se trouvent deux excavations en haut de la falaise qui domine la voie ferrée, la route de Morre, le Doubs et les près de Vaux. La grotte inférieure fermée au public depuis 1995 abrite plusieurs colonies de chauves-souris. La grotte supérieure s'enfonce sous le plateau en pente douce sur 110 mètres en un long couloir à sec conique qui se termine par une chatière en-glaisée. L'ouverture de la grotte de vingt mètres de haut est rendu accessible par un escalier métallique.
Le Doubs coule 120 mètres plus bas, « mais il y a 500.000 ans, la rivière était à son niveau. Elle noyait donc toute la cavité. »
Au fait, pourquoi Saint-Léonard ? « Le nom d'un ermite qui se serait installé là, ou plus bas au bord du chemin de la Malate, on ne sait pas bien. »