Le square est situé à la pointe amont de l'île Saint-Louis. Le Monument à Barye, de Laurent Marqueste, est inauguré le 18 juin 1894. Il est principalement composé de répliques d'œuvres de Barye. Seul le portrait en médaillon représentant le sculpteur est dû à Marqueste. Les groupes en pierre de La Force et de L'Ordre flanquent le groupe sommital en bronze de Thésée combattant le centaure Biénor. Le Lion au serpent orne la base du monument.Les bronzes de Thésée et du Lion ont été envoyés à la fonte en 1942 sous le régime de Vichy. Cependant, en 2011, grâce au mécénat de la fondation pour la culture du groupe taïwanais Chi Mei (en), une nouvelle épreuve en bronze du Thésée, de taille légèrement inférieure, a été coulée et replacée sur son socle en pierre et, en 2014, une réplique en bronze du Lion, financée par le même mécène, a pris place sur le monument.C'est ce monument, érigé à la gloire d'un sculpteur très populaire à la fin du XIXe siècle, qui a donné son nom au square.