H. G. Wells, dans Les premiers hommes sur la Lune (1901), décrivait ses habitants comme des êtres de petite taille, à la peau grise avec un grand front, sans nez, avec des yeux protubérants et une démarche étrange. Jusque dans les années 1960, les petits-gris appartenaient aux ouvrages de fiction populaire. Mais en 1965, le Boston Traveler publia l'histoire de Betty et Barney Hill, un couple qui prétendait avoir été enlevé.
Les Hill décrivaient leurs ravisseurs comme des petits-gris. En 1977, Steven Spielberg choisit l'apparence du petit-gris pour les extraterrestres de son film Rencontres du troisième type. Depuis, les petits-gris sont devenus un des archétypes de l'extraterrestre pour le grand public. Au début des années 1980, les petits-gris ont été associés à l'Incident de Roswell, où des corps auraient été récupérés après l'écrasement au sol d'une soucoupe volante dans le Nouveau-Mexique. En France, à partir de la fin des années 1980 (puis durant les années 1990), l'écrivain Jimmy Guieu fait plusieurs passages dans les médias de masse et y parle des petits-gris. Il consacrera tout particulièrement à ce thème son « roman-vérité » (ainsi qu'il l'appelle) E.B.E. Alerte rouge.
Durant les années 1990, la culture populaire commença à associer les petits-gris aux théories du complot. La série télévisée X Files en est un exemple. En 1995, Ray Santilli (en) prétendit être en possession d'un film décrivant l'autopsie d'un petit-gris après l'incident de Roswell. En 2006, Santilli déclara que le film n'était pas celui de l'autopsie originale mais qu'il était une reconstitution de ce qui s'était passé en 1947. Il prétendait cependant qu'une partie du film originel était incluse dans sa reconstitution. En 1997, la série Stargate SG-1 inclut dès sa première saison un peuple extraterrestre dénommé les Asgards, dont l'apparence rappelle celle des petit-gris.