Seit der Gründung der Stadt im Jahr 1353 bis ins 19. Jahrhundert reichte das Stadtgebiet nicht über den Bereich der heutigen Altstadt hinaus. Im Mittelalter lebten hier nur wenige Tausend Menschen. Erst mit dem Bau der Eisenbahn im 19. Jahrhundert begann die Stadt rasch zu wachsen.
Während fast des gesamten Zweiten Weltkriegs blieb das damalige deutsche Allenstein eine vergleichsweise sichere Stadt im Hinterland der Front. Anders als viele andere Städte wurde sie nicht Ziel großflächiger alliierter Luftangriffe. Als die Rote Armee in der Nacht vom 21. auf den 22. Januar 1945 in die Stadt einmarschierte, war die historische Bausubstanz nahezu unversehrt. Die Kämpfe am Stadtrand und im Zentrum dauerten nur kurze Zeit und verursachten vergleichsweise geringe Schäden.
Der größte Teil der Zerstörungen der Olsztyner Altstadt war daher keine unmittelbare Folge der Kampfhandlungen. Vielmehr entstand er durch vorsätzliche, wiederholte Brandstiftungen sowjetischer Soldaten nach der Besetzung der Stadt. Dadurch wurden etwa 35 bis 40 Prozent der historischen Bausubstanz zerstört, während die Altstadt selbst nahezu vollständig in Trümmern lag.
Beim Wiederaufbau der Altstadt in den 1950er Jahren entschied man sich aus ideologischen Gründen gegen eine originalgetreue Rekonstruktion. Stattdessen sollten preußische Spuren beseitigt und die Architektur bewusst „repolonisiert“ werden. Vor dem Krieg sah der Marktplatz anders aus: Die Bürgerhäuser besaßen typische preußische Fassaden, und einige verfügten zwar über Arkaden, doch bildeten sie keine so einheitliche Folge wie heute. Die Architekten entwarfen bewusst durchgehende Arkadengänge, um der Altstadt ein stärker historisches und „polnisches“ Erscheinungsbild zu verleihen.
In derselben Zeit wurden zahlreiche Fassaden mit der Sgraffito-Technik verziert. Die Darstellungen zeigen Pflanzenmotive, Szenen aus der Fischerei, astronomische Motive sowie Alltagsszenen aus Ermland und Masuren.