Ende des 19. Jahrhunderts erlebte Allenstein eine rasante Entwicklung. Die Stadt gehörte damals zum Deutschen Reich und ihre Bevölkerung wuchs stetig. Es gab bereits über fünfzehntausend Katholiken, doch die einzige bedeutende Kirche war noch immer die mittelalterliche St.-Jakobs-Kathedrale. Daher wurde 1895 ein Komitee gegründet, um eine zweite große katholische Kirche zu errichten.
Der für die neue Kirche gewählte Standort lag fast am Stadtrand. Heute kaum vorstellbar – ringsum erstreckten sich Felder. Der Bau wurde hauptsächlich durch Spenden der Bevölkerung finanziert. Obwohl Olsztyn damals eine deutsche Stadt war, sprach ein beträchtlicher Teil der Bevölkerung Polnisch. Die polnischsprachige Gazeta Olsztyńska spielte ebenfalls eine wichtige Rolle bei der Organisation von Spendenaktionen und rief die Einwohner zur Unterstützung des Projekts auf.
Trotzdem hielt Allensteins Bürgermeister Oskar Belian bei der Weihe der Kirche am 19. Oktober 1903 eine dezidiert antipolnische Rede. Überlieferten Quellen zufolge sprach er sich auch gegen Gottesdienste in polnischer Sprache aus, was die damaligen ethnischen Spannungen deutlich widerspiegelt.
Das markanteste Merkmal der Kirche ist ihr hoch aufragender, etwa 83 Meter hoher Turm, der bis heute zu den höchsten der Stadt zählt. Das wertvollste Ausstattungsstück ist der monumentale neugotische Hauptaltar, der 1911 fertiggestellt wurde. Erwähnenswert sind auch die originalen Buntglasfenster und andere Dekorationselemente, die den Zweiten Weltkrieg überstanden haben.
Bei der Einnahme Alleinsteins durch die Rote Armee im Jahr 1945 wurde ein Großteil der Stadt niedergebrannt oder zerstört. Die Herz-Jesu-Kirche blieb jedoch nahezu unbeschädigt. Dank dessen können die originalen neugotischen Einrichtungsgegenstände aus dem frühen 20. Jahrhundert – Altäre, Kanzel, Taufbecken, Beichtstühle und die wunderschönen Buntglasfenster – noch heute bewundert werden.
In den 1980er Jahren spielte die Kirche eine bedeutende Rolle im gesellschaftlichen Leben von Allenstein. Hier fanden Vaterlandsmessen, Treffen von Gruppen der Gewerkschaft Solidarność und patriotische Feierlichkeiten statt. Bis heute befinden sich im Inneren der Kirche zahlreiche Gedenktafeln für Oppositionelle, Opfer des Kommunismus und wichtige Ereignisse der polnischen Geschichte.
