Stadens historia sträcker sig ända tillbaka till 500-talet före Kristus, när etruskerna började sin expansion.

Staden San Gimignano har bytt namn flera gånger under århundradenas lopp: från Velathri och Silvia tills staden tog namn efter helgonet San Geminiano som är stadens beskyddare.

Staden blev känd i världen vid slutet av 1000-talet, när den blev ett obligatoriskt mål för vallfärdarna som reste på Via Francigena, en pulsåder för handelsutbyte.

Mellan 1000- och 1200-talet var San Gimignano en mycket rik stad och den första stadsmuren byggdes. Idag kan vi beundra tre av stadsmurens fyra portar: Arco della Cancelleria, Arco De'Becci och Arco Di Goro. Därefter byggdes 72 torn som en symbol för ekonomisk och politisk framgång. 1255 byggdes den andra stadsmuren som ringade in tre nya bosättningar (San Giovanni, San Matteo och Quercecchio) i den tornförsedda stadskärnan.

Mellan 1200- och 1300-talet kastade sig staden in i ohämmad lyx och kommunen blev till slut tvungen att införa begränsningar. Med tiden övergick sorgfriheten till hungersnöd och pester. Även det politiska lugnet övergick till krig mellan familjerna Salvucci (Ghibellini-sidan) och Ardinghelli (Guelfi-sidan).

Därefter övertogs staden av Florens kommun som 1353 byggde Rocca di Montestaffoli på stadens högsta och mest strategiska punkt. Under 1500-talet drabbades den tornförsedda staden av en ekonomisk och politisk nedgång. Stadens invånare fick då försörja sig på framförallt jordbruk.