La croix du planet de l’église portée par une colonne antique de marbre blanc avec un chapiteau en mollasse marine et les deux fontaines du XVIIIe siècle sont des éléments d’architecture caractéristiques de l’urbanisme des cités comtadines de l’époque moderne, qu’il convient de conserver pour des raisons historiques et pour l’animation du quartier.
Au XVIIIe s, l’eau est arrivée dans la Haute-Ville grâce à la construction d’un aqueduc captant la source du Taraïn au Crestet. Les fontaines qui datent de cette époque ont considérablement amélioré les conditions de vie des habitants. Elles sont équipées de diapasons en fer forgé, disposés sous le bec ou les becs verseurs, qui servaient d’appui aux sceaux et aux cruches que l’on y mettait à remplir.
Les fontaines de la place du Vieux Marché, de la rue de l’Evêché, de la Place du Poids ont été restaurées respectivement en 1997, 2000, 2005. Celles de la rue des Fours et de la Place de l’Orme sont les dernières à être mise en valeur.
Elles participent au maintien de la vie des ruelles dans ce quartier sud de la Haute-Ville et au rafraîchissement des habitants et des visiteurs en été.