Die hellgelbe neugotische Kirche dominiert den Platz der Freiheit (Vabaduse väljak) und hat die Zeiten überlebt. Trotz zweier Versuche im letzten Jahrhundert, die Kirche abzureißen, wird die Kirche wohl noch lange Zeit existieren.
Die Idee für die Kirche entstand in der Mitte des 19. Jh., als die Heiliggeistkirche für die anwachsende Bevölkerung Tallinns zu klein wurde. Eine neue Kirche, die auf Vorschlag des Pastors nach dem Evangelisten Johannes benannt wurde, wurde daher gegründet.
Der Bau erfolgte zwischen 1862 und 1867 unter der Aufsicht des Tallinner Architekten und Kirchendesigner Christoph August Gabler. Die Errichtung der Kirche an dieser Stelle war keine einfache Aufgabe, denn der Bereich außerhalb der alten Stadtmauer war einst der Stadtgraben, so dass der Boden zu weich für das Fundament war. Als Lösung wurden Dutzende von Eichenstämmen in den Boden gerammt.
Um 1930 entstanden um den Platz der Freiheit Gebäude im Art déco und im funktionalistischen Stil, so dass die neugotische Kirche nicht mehr ins Ensemble passte. Pläne, die Kirche abzureißen und den Platz neu zu gestalten, wurden jedoch wegen des Krieges und der sowjetischen Okkupation nie umgesetzt. Zukunftsorientierte Architekten der 50er Jahre hatten Ähnliches vor, zum Glück blieb es jedoch nur bei Plänen.