La città prende il nome da una sorgente del villaggio romano. Lo stemma della città comprende un coccodrillo incatenato ad una palma con la scritta COLNEM, da Colonia Nemausus, che significa "colonia" di Nemausus, il dio celtico locale dei Volci Arecomici. Ai veterani delle legioni romane, che servirono Giulio Cesare nelle sue campagne sul Nilo, fu data la terra da coltivare nella pianura di Nîmes dopo aver completato quindici anni di servizio militare. La città si trovava sulla Via Domizia, una strada romana costruita nel 118 a.C., che collegava l'Italia alla Spagna.
Le guerre delle Gallie e la caduta di Marsiglia nel 49 a.C. permisero alla città di riconquistare la propria autonomia sotto Roma. Fu poi Augusto a farne la capitale della provincia di Narbonne, e a donarle tutto il suo splendore: donò alla città una cinta muraria lunga sei chilometri, rinforzata da quattordici torri, di cui oggi restano due porte, la Porta Augusta e la Porta di Francia. Fu costruito anche un acquedotto per portare l'acqua dalle colline a nord. L'imperatore Costantino dotò la città di terme e divenne la sede del vicario diocesano, il capo amministrativo della Gallia meridionale.
La città prosperò fino alla fine del III secolo, ma durante il IV e il V secolo la vicina Arles conobbe maggiore successo. All'inizio del V secolo la prefettura del pretorio fu trasferita da Treviri ad Arles e la città fu infine conquistata dai romani dai visigoti nel 473 d.C. Dopo il periodo gallo-romano, nei tempi delle invasioni e della decadenza, la Chiesa cristiana, già stabilita in Gallia, sembrava essere l'ultimo rifugio della civiltà classica.
Tuttavia, quando i Visigoti furono accettati nell'Impero Romano, la città fu inclusa nel loro territorio nel 472. Nel 725, gli Omayyadi musulmani avevano conquistato l'intero territorio visigoto della Settimania, compresa la stessa Nîmes. L'epoca feudale del XII secolo portò problemi locali che durarono fino ai tempi di San Luigi, ma Nîmes vide comunque progressi significativi, sia nel commercio che nell'industria, nonché nell'allevamento del bestiame. Dopo l'ultimo sforzo di Raimondo VII di Tolosa, San Luigi riuscì a instaurare il potere reale nella regione, che poi divenne Linguadoca. Nîmes entrò così finalmente nelle mani del re di Francia. Nel corso dei secoli XIV e XV la Valle del Rodano conobbe una serie ininterrotta di invasioni, che rovinarono l'economia e causarono carestie. La città, essendo una delle roccaforti protestanti, subì tutta la forza della repressione, compreso il massacro di Michelade, che si protrasse fino alla metà del XVII secolo, attraverso periodiche epidemie di peste.
Il periodo rivoluzionario istigò un grande antagonismo politico e religioso: il Terrore Bianco si aggiunse alle calamità naturali, alla recessione economica, agli omicidi, ai saccheggi e agli incendi dolosi fino all'inizio del XIX secolo, ma alla fine l'ordine fu ristabilito e Nîmes divenne la metropoli della Bassa Linguadoca, riorganizzando radicalmente la sua industria. Allo stesso tempo le campagne circostanti si adattarono alle esigenze del mercato e parteciparono al generale aumento della ricchezza.