Occupés sans interruption depuis l'âge de pierre, les premiers habitants d'Avignon vivaient dans les grottes du Rocher des Dames, massif affleurement rocheux qui s'élève au-dessus des rives du Rhône. Aujourd'hui, on y trouve un parc avec vue sur la campagne environnante, un café et une aire de jeux.
Les Romains étaient présents à Avignon, même si les murs ne sont plus visibles car ils sont enterrés sous les rues modernes d'aujourd'hui. Des vestiges du forum sont encore visibles, près de la rue Racine et de la rue Saint-Etienne, à l'ouest de la ville.
À l'époque médiévale, la ville devint le centre de communication et de commerce. Le pont de pierre enjambant le Rhône était l'un des trois seuls entre la Méditerranée et Lyon. C'est pour cette raison qu'elle fut choisie par la papauté comme résidence au sein du royaume de Provence d'alors. La présence de la papauté fait d'Avignon une ville de grande activité politique et économique. L'ancien mur d'enceinte de la ville, désormais visible uniquement sous la forme d'une rue qui entoure le centre même de la ville, était beaucoup trop petit et un mur plus grand, encore visible aujourd'hui, était nécessaire pour protéger sa population croissante. De riches cardinaux ont construit des palais extravagants connus sous le nom de livrées à Avignon et de l'autre côté du fleuve, à Villeneuve-lès-Avignon.
La ville regorgeait d'activités et de constructions alors que les architectes, les constructeurs et les artistes affluaient vers la ville. À cette époque, l'intérieur des murs de la ville comptait plus de 100 églises et chapelles, dont beaucoup ont été transformées depuis en magasins ou en cinéma ! La richesse et l'activité générées par la présence de la papauté se sont répandues dans la région, de sorte que même les petits villages voisins peuvent se targuer d'un riche passé architectural.