La Città Vecchia di Gerusalemme è quella parte della città che si trova dentro le mura. Il nucleo originario dell’abitato, invece, chiamato Città di David ed edificato sul monte Sion, è rimasto esternamente alle attuali mura, verso Sud.
Le mura attuali definiscono un territorio posto a nord della Città di David, distrutta durante la prima guerra giudaica dalle truppe romane comandate da Tito Flavio Vespasiano.
Sion, se non era fortificata al tempo dei Gebusei, lo fu certamente con Davide, mentre suo figlio Salomone occupò la parte settentrionale del colle, la cima Moriah e vi fece costruire il Tempio di JHWH, laddove oggi vi è la Moschea di Omar.
Al tempo del re riformatore Ezechia le mura percorrevano, oltre al nucleo vecchio, tutti i lati del Gareb, collina a ovest di Sion. La Città di David, posta a un’altitudine minore, fu detta “Città bassa”, mentre la “Città alta” era il Gareb. A Nord si stendeva, sul cosiddetto “sperone centrale”, una propaggine meridionale del Golgota, la zona del mercato, il maqtesh, anch’esso difeso da mura, dette “di Manasse”.
Erode Agrippa I, detto anche “Il Grande”, inglobò nella città i suburbi settentrionali, detti mishneh, cioè città nuova.
Dopo Tito, Gerusalemme assume una veste nuova, il Tempio distrutto venne sostituito dal Tempio di Giove, e la città fu ribattezzata Aelia Capitolina.
