La ciudad recibe su nombre de un manantial en la villa romana. El escudo de armas de la ciudad incluye un cocodrilo encadenado a una palmera con la inscripción COLNEM, de Colonia Nemausus, que significa "colonia" de Nemausus, el dios celta local de los Volcae Arecomici. A los veteranos de las legiones romanas, que sirvieron a Julio César en sus campañas del Nilo, se les dio tierra para cultivar en la llanura de Nimes después de completar quince años de servicio militar. La ciudad estaba ubicada en Via Domitia, una calzada romana construida en el 118 a. C. que conectaba Italia con España.
Las guerras de la Galia y la caída de Marsella en el 49 a. C. permitieron a la ciudad recuperar su autonomía bajo Roma. Fue entonces Augusto quien la convirtió en capital de la provincia de Narbona y le dio todo su esplendor: le dio a la ciudad un anillo de murallas de seis kilómetros de largo, reforzado por catorce torres, de las que hoy quedan dos puertas, la Porta Augusta y la Puerta de Francia. También se construyó un acueducto para traer agua desde los cerros del norte. El emperador Constantino dotó a la ciudad de baños y se convirtió en la sede del Vicario Diocesano, el principal funcionario administrativo del sur de la Galia.
La ciudad prosperó hasta finales del siglo III, pero durante los siglos IV y V, la cercana Arles disfrutó de mayor éxito. A principios del siglo V, la prefectura pretoriana fue trasladada de Trier Arles y la ciudad finalmente fue capturada a los romanos por los visigodos en el 473 d.C. Después del período galorromano, en tiempos de invasión y decadencia, la Iglesia cristiana, ya establecida en la Galia, parecía ser el último refugio de la civilización clásica.
Sin embargo, cuando los visigodos fueron aceptados en el Imperio Romano, la ciudad fue incluida en su territorio en 472. En 725, los musulmanes omeyas habían conquistado todo el territorio visigodo de Septimania, incluida la propia Nimes. La época feudal del siglo XII trajo problemas locales, que duraron hasta los días de San Luis, pero Nimes todavía experimentó avances significativos, tanto en el comercio como en la industria, así como en la ganadería. Después del último esfuerzo de Raimundo VII de Toulouse, San Luis logró establecer un poder real en la región, que luego se convirtió en Languedoc. Nimes pasó así finalmente a manos del rey de Francia. Durante los siglos XIV y XV, el valle del Ródano experimentó una serie ininterrumpida de invasiones que arruinaron la economía y provocaron hambrunas. La ciudad, al ser uno de los bastiones protestantes, sintió toda la fuerza de la represión, incluida la masacre de Michelade, que se prolongó hasta mediados del siglo XVII, con brotes periódicos de peste.
El período revolucionario instigó un gran antagonismo político y religioso: el Terror Blanco se sumó a las calamidades naturales y la recesión económica y a los asesinatos, saqueos e incendios provocados hasta principios del siglo XIX, pero finalmente se restableció el orden y Nimes se convirtió en la metrópoli de Bajo Languedoc, reorganizando radicalmente su industria. Al mismo tiempo, el campo circundante se adaptó a las necesidades del mercado y participó del aumento general de la riqueza.