Le musée est installé dans le beffroi de la ville, construit en 1209, ce qui en fait l'un des plus vieux de France. Il fait partie des 56 beffrois de France et de Belgique inscrits en 2005 au patrimoine mondial de l'UNESCO.
Il porte le nom de son fondateur, Jacques Boucher de Perthes (1788-1868), personnage illustre de la ville (le lycée public porte également son nom). Directeur des douanes, c'est cependant dans un autre domaine qu'il se fera un nom. C'est en effet lui qui construira les bases de la science préhistorique dont il est considéré comme l'un des fondateurs. Il trouvera notamment des outils de silex taillés par l'homme dans des couches géologiques bien plus anciennes que la période admise comme origine de l'homme (-4000 av JC). Il réussira ainsi à faire admettre à la communauté scientifique l'existence d'hommes "antédiluviens". La préhistoire est née !