Château, actuellement musée d'Art et d'Histoire, et enceinte urbaine