À l’époque gallo-romaine une chaussée élevée aurait protégé le village contre les crues de la Loire et placé la voie Orléans-Sancerre à l’abri du flot.
On a retrouvé des vestiges très anciens, notamment une hache de bronze à talon de 16,5 cm, dans les sables de la Loire. Des objets gallo-romains attestent également une activité humaine importante : des agrafes, des clefs, des monnaies ont été trouvées à Chézeau, Lucy et la Vilaisie. Des terrassiers ont mis au jour, entre la poste et la mairie, des morceaux de tuiles à rebords et de briques romaines. Une belle poterie du ier ou iie siècle a, par ailleurs, été découverte au-dessous du niveau des sarcophages.
L’habitat subsiste sous les Mérovingiens et au Moyen Âge. Un pont a sans doute existé entre Poilly et Gien-le-Vieil ; toujours est-il que l’on devait traverser la Loire largement en aval de l’actuel pont. Une église est construite ; les protestants la détruiront en partie en 1567. La paroisse, comme celles du Giennois du sud de la Loire appartient au diocèse de Bourges.
Placée à proximité de Gien, la paroisse groupe au cours des temps modernes plus d’un millier d’habitants, plus que Briare en 1665, ce qui lui vaut de devenir en1790 le chef-lieu d’un canton qui regroupe alors Saint-Martin-sur-Ocre, Saint-Firmin-sur-Loire, Saint-Brisson-sur-Loire et Autry-le-Châtel. En 1801, Poilly-lez-Gien appartient au canton de Gien. En 1804, le hameau du « Bout des Ponts » l’actuel quartier du Berry, est rattaché à Gien : Poilly-lez-Gien perd de fait 350 habitants et ne retrouvera sa population du début du xixe siècle qu’en 1872.
À la fin du xixe siècle, on loue encore la qualité de ses terres ; la mairie construite en 1858, est toute neuve ainsi que l’école (1874). La scolarité des enfants n’est pas encore généralisée : sur 108 conscrits de 1868 à 1878, 26 sont illettrés. À cette époque, la bibliothèque scolaire compte 89 volumes.
L’église restaurée et agrandie en 1836 subit la terrible crue de 1846 et recouvre les rues du bourg. Reconstruite après cette date, une levée la protège des crues de 1856 et 1866. De 1884 à 1893, on édifie une voie ferrée qui relie Gien à Argent-sur-Sauldre par Poilly-lez-Gien et Coullons. Le trafic ne sera jamais intense mais cette ligne laisse l’un des viaducs les plus longs d’Europe avec 1 866 mètres et ses 92 arches.
Au cours de la première moitié du xxe siècle, la commune se maintient entre 1200 et 1300 habitants malgré la Première Guerre mondiale et l’exode rural.
Entre le 29 janvier et le 8 février 1939, plus de 2 800 réfugiés espagnols fuyant l'effondrement de la république espagnole devant les troupes de Franco, arrivent dans le Loiret. Devant l'insuffisance des structures d'accueil d’Orléans, 46 centres d’accueil ruraux sont ouverts40, dont un à Poilly-lez-Gien41. Les réfugiés, essentiellement des femmes et des enfants (les hommes sont désarmés et retenus dans le Sud de la France), sont soumis à une quarantaine stricte, vaccinés, le courrier est limité, et le ravitaillement, s'il est peu varié et cuisiné à la française, est cependant assuré42. Une partie des réfugiés rentrent en Espagne, incités par le gouvernement français qui facilite les conditions du retour, ceux préférant rester sont regroupés au camp de la verrerie des Aydes, à Fleury-les-Aubrais41.