A cidade recebe o nome de uma fonte na vila romana. O brasão da cidade inclui um crocodilo acorrentado a uma palmeira com a inscrição COLNEM, de Colonia Nemausus, que significa "colônia" de Nemausus, o deus celta local dos Volcae Arecomici. Veteranos das legiões romanas, que serviram Júlio César em suas campanhas no Nilo, receberam terras para cultivar na planície de Nîmes após completarem quinze anos de serviço militar. A cidade estava localizada na Via Domitia, uma estrada romana construída em 118 a.C., que ligava a Itália à Espanha.
As Guerras da Gália e a queda de Marselha em 49 a.C. permitiram que a cidade recuperasse sua autonomia sob o domínio romano. Foi então Augusto quem a tornou capital da província de Narbona e lhe conferiu toda a sua glória: dotou a cidade de um anel de muralhas com seis quilômetros de extensão, reforçado por quatorze torres, das quais duas portas permanecem até hoje, a Porta Augusta e a Porta da França. Um aqueduto também foi construído para trazer água das colinas ao norte. O Imperador Constantino dotou a cidade de termas e ela se tornou a sede do Vigário Diocesano, o principal funcionário administrativo do sul da Gália.
A cidade prosperou até o final do século III, mas durante os séculos IV e V, a vizinha Arles desfrutou de maior sucesso. No início do século V, a Prefeitura Pretoriana foi transferida de Trier Arles e a cidade foi finalmente capturada dos romanos pelos visigodos em 473 d.C. Após o período galo-romano, nos dias de invasão e decadência, a Igreja Cristã, já estabelecida na Gália, parecia ser o último refúgio da civilização clássica.
No entanto, quando os visigodos foram aceitos no Império Romano, a cidade foi incluída em seu território em 472. Em 725, os omíadas muçulmanos conquistaram todo o território visigótico da Septimania, incluindo a própria Nimes. Os tempos feudais no século XII trouxeram problemas locais, que duraram até os dias de São Luís, mas Nîmes ainda viu um progresso significativo, tanto no comércio e na indústria, quanto na criação de gado. Após o último esforço de Raimundo VII de Toulouse, São Luís conseguiu estabelecer o poder real na região, que então se tornou Languedoc. Nîmes finalmente caiu nas mãos do rei da França. Durante os séculos XIV e XV, o Vale do Ródano sofreu uma série ininterrupta de invasões, arruinando a economia e causando fome. A cidade, sendo um dos redutos protestantes, sentiu toda a força da repressão, incluindo o massacre de Michelade, que continuou até meados do século XVII, através de surtos periódicos de peste.
O período revolucionário instigou grande antagonismo político e religioso: o Terror Branco somou-se a calamidades naturais, recessão econômica, assassinatos, pilhagens e incêndios criminosos até o início do século XIX, mas a ordem foi finalmente restaurada e Nîmes tornou-se a metrópole de Bas-Languedoc, reorganizando radicalmente sua indústria. Ao mesmo tempo, a zona rural circundante adaptou-se às necessidades do mercado e participou do aumento geral da riqueza.