Mit der Überschreitung der engeren Grenzen des ehemaligen Römerlagers muß schon im 12. Jahrhundert gerechnet werden, allerdings sind die wissenschaftlichen Probleme um die Größe der Siedlung "Nivenburg" noch nicht gelöst. Zweifellos spielte die Wahl Markgraf Leopolds III., seine Residenz nach Klosterneuburg zu verlegen, eine wesentliche Rolle bei der weiteren Ausdehnung des bereits vorhandenen hochmittelalterlichen Siedlungsareals. Daran änderte auch die nach dem Tode Leopolds III. (1136) erfolgte Verlegung der Babenbergerresidenz nach Bayern und unter Heinrich II. Jasomirgott nach Wien nur wenig. An dem Umstand, daß Klosterneuburg nach 1136 nicht wieder in die Bedeutungslosigkeit zurückfiel, hatte nicht zuletzt die babenbergische Klosterstiftung Anteil. Dies kommt unter anderem in der Flurbezeichnung "Neusiedl" zum Ausdruck, die für das letzte Viertel des 12. Jahrhunderts urkundlich nachweisbar ist. Sie bezeichnet einen Siedlungsteil, der zwischen dem späteren Befestigungsring der oberen Stadt und dem Stiftsspital um St. Gertrud placiert war.

Lange Zeit war die Forschung der Ansicht, daß erst unter König Ottokar von Böhmen der bis ins 19. Jahrhundert vollständig erhaltene Mauerring der oberen Stadt errichtet wurde. Jüngere Forschungen und eine Neubewertung der Urkunden ergeben jedoch, daß schon 1226 zumindest ein Wallsystem den Kernbereich der oberen Stadt umgürtete, da in diesem Jahr ein Haus "apud vallim sitam" - also beim Graben gelegen - urkundlich genannt wird. Mit Sicherheit jedoch fand 1276 König Ottokar Przemysl in seinem Konflikt mit Rudolf von Habsburg bereits einen voll ausgebauten Befestigungsring mit einer starken Mauer und vielen Türmen vor, wie eine zeitgenössische Chronik berichtet. Aus Sicht der gesamten Siedlungsentwicklung Klosterneuburgs liegt es nahe anzunehmen, daß die Befestigung der oberen Stadt in der Ausdehnung, wie sie bis ins 19. Jahrhundert vorhanden war, schon unter den Babenbergern - vielleicht im Zuge der 2. Residenzverlagerung durch Leopold VI. - angelegt wurde.

Der Mauerring folgte im wesentlichen den natürlichen Steilabfällen gegen den Kierlingbach im Norden, der Donau im Osten und im nordwestlichen Teil einem bereits vorhandenen Taleinschnitt, der noch heute im Verlauf der Burggasse erkennbar ist. Lediglich die südliche Stadtflanke und im der Bereich der heutigen Hermannstraße mußte das Geländeplateau durch einen zusätzlichen Graben gesichert werden. Zwischen 1790 und 1793 ist im Zuge von Rechtsgeschäften die Rede von der Miteinbeziehung der Zwingermauer in die Verbauung der Häuser im Bereich der heutigen Parzellen Pater Abel Straße 3 - 5. Noch heute ist zumindest der Verlauf der Zwingermauer in der Bauflucht dieser Häuser zu erkennen. Gegen den Durchbruch des Tutzsteiges zu wurde für die straßenseitigen Grundstücksmauern offensichtlich Spolien verwendet, welche ebenfalls von der Zwingermauer stammen könnten. Der Graben und die Zwingermauer verschwanden im 19. Jahrhundert.

Ein Teil der Befestigung der oberen Stadt wurde durch die Klosteranlage selbst gebildet, welche mit ihrer blockartigen Verbauung gegen die Steilabfälle von Kierlingbach und Donau einen gesonderten "burgartigen" Wehrbereich darstellte. Vermutlich um 1288 ließ Herzog Albrecht I. von Österreich mit der Errichtung der später nach ihm benannten "Albrechtsburg" auch die Nordwest-Ecke der Stadtbefestigung ausbauen. Aus den Urkunden des 14. und frühen 15. Jahrhunderts geht hervor, daß dieser Residenzbau schon früh der landesfürstliche Verwaltungssitz für Grund- und Bergrechte wurde. 1538 galt die Albrechtsburg bereits als verfallen und ging als Zeughaus und Getreidespeicher in den Besitz der Stadt über. Dem Abbruch des Gebäudes ging schließlich die Verwendung als Schießstätte voraus.

Wie die Stadtbefestigung des 13. Jahrhunderts ausgesehen hat, ist nicht überliefert. Die Lage der Mauertürme und der Verlauf des Wehrganges sind erst seit Matthäus Merian d. Ä. (1649) einigermaßen überliefert. Zusammen mit Veduten von Georg Matthäus Vischer (1672), Josef Orient (vor 1700), Johann Martin Lerch (nach 1670) und Ansichten aus der Zeit um 1725 und 1780 ergibt sich vor allem das Bild einer spätmittelalterlich bis frühneuzeitlichen Befestigungsanlage. Die Rondelle und Vorwerke bei der Hundskehle und an der Ecke der Albrechtsburg sowie am nicht erhaltenen "Eisernen Türl" zeigen bereits Befestigungsmaßnahmen, welche eine Modernisierung und Anpassung an den Gebrauch von schweren Geschützen (Maulscharten) im späteren 16. Jahrhundert (1. Türkenbelagerung 1529) belegen. In diese Zeit dürfte auch die Erneuerung und Ausbesserung des Wehrganges fallen, zeigen doch sämtliche erhaltenen Zinnen und die innere Wehrplattform (der "Mordgang") Mischmauerwerk mit hohem Ziegelanteil. Zahlreiche Spolien von mittelalterlichen und barocken Architekturteilen sprechen ebenfalls für einen Umbau im späteren 16. Jahrhundert. In die Zinnenlücken wurden Prellhölzer für leichtere Pulverwaffen eingebaut und die Zinnendeckel erweisen sich zur Gänze als neuzeitliche Umgestaltung.

Nach dem zweiten Türkensturm (1683) wurden die im Grunde genommen für das 17. Jahrhundert zu altertümlichen und kaum erweiterbaren Wehranlagen aufgegeben. Ein Teil der donauseitigen Anlagen fiel sogar ersatzlos dem ausschließlich auf Repräsentation abzielenden Großprojekt des "Österreichischen Escorial" - dem Stiftsneubau - zum Opfer. Seine konsequente Durchführung hätte sämtliche Wehranlagen zum Verschwinden gebracht. Mit dem Wechsel vom wehrhaften zum repräsentativen Charakter der Befestigungen hängt auch die Errichtung bzw. Umgestaltung der donauseitigen Hauptportale zusammen: Das stiftsseitige Schlagbrückentor und das Wassertor in der unteren Stadt erhielten eine barocke Instrumentierung. Interessant sind in diesem Zusammenhang Veränderungen an der donauseitigen Wehrmauer. In dem zu Gärten umgestalteten Bereich unterhalb des alten Refektoriums wurde der mittelalterlichen Wehrmauer eine geböschte barocke Schale mit Blendarkaden (später vermauert) vorgestellt. Teilweise sind außerdem noch die Reste einer barocken Brunnenanlage ("Halbgrotte") zu erkennen. Der nach dem Stiftsneubau wieder hervortretende Zug der mittelalterlichen Stadtmauer um den Sattlerturm wurde ebenfalls als "Gartenmauer" erhöht und umgestaltet, wobei man wegen erheblicher Baumängel mächtige Stützpfeiler anbringen mußte.

Ein im Bereich der Pfisterei vorgelagerter dreiflügeliger Bau mit anschließender Wehrmauer wird bis ins 18. Jahrhundert mit drei Scharwachttürmen wiedergegeben. Diese wohl aus dem 16. Jahrhundert stammende Befestigung ist heute im Gelände nicht nachweisbar. Lediglich die hofseitige Rückwand des Gebäudes in der Flucht des Schlagbrückentores mit vermauerten Öffnungen scheint sich erhalten zu haben.

In den 60er Jahren des 19. Jahrhunderts wurden die Mauern und Tore bis auf wenige Reste abgebrochen. Als Grund für diese Maßnahme wird weniger Platzmangel als eine Modernisierung des Stadtbildes nach dem Vorbild der Residenzhauptstadt Wien angenommen. Hier hatte 1857 Kaiser Franz Joseph die Schleifung der Befestigungsanlagen angeordnet, welche allerdings mit einer Stadterweiterung in Verbindung stand. Für Klosterneuburg traf dies zwar nicht zu - es fehlten die enorm platzaufwendigen Deckungshindernisse von Glacis und ähnlichem -, doch waren die Befestigungsanlagen im Sinne des Verteidigungswertes schon im 18. Jahrhundert unabänderlich veraltet.