Светло-желтое неоготическое здание церкви успешно пережило периоды все перестройки в городе  и войны и по-прежнему возвышается на площади Свободы.

Несмотря на две попытки снести здание церкви за последние сто лет, она вполне сохранилась и наверняка простоит еще много десятилетий.

Идея воздвигнуть церковь Святого Иоанна (Jaani kirik) впервые возникла в середине XIX века, когда растущему сообществу этнических эстонцев в Таллинне, прихожанам церкви Святого Духа, стало тесно в старом храме. Новую церковь, по предложению пастора, посвятили Иоанну Богослову. 

Ее строили пять лет с 1862 до 1867 года под наблюдением уроженца Таллинна, архитектора Кристофа Аугуста Габлера. Возвести церковь именно на этом месте оказалась делом далеко не простым. Ранее на этом участке за крепостной стеной находился ров, и для укрепления фундамента пришлось вбить десятки толстых дубовых свай.

К 1930-м годам вокруг церкви построили несколько зданий в стиле ар-деко и функционализма, и неоготическая церковь выглядела на площади пережитком прошлого. Однако планы городских властей по сносу церкви и реконструкции площади сорвала Вторая мировая война и последующей оккупации Эстонии. У архитекторов-авангардистов 1950-е годы возникла похожая идея, но и ей не суждено было осуществиться.