Im Jahre 1400 erhielt die Gemeinde die bischöfliche Erlaubnis, die bisherige mittelalterliche Johanneskirche abzubrechen und durch einen der Gottesmutter Maria geweihten Neubau an geeigneter Stelle zu ersetzen, der bis 1740 bestand und bis 1742 durch eine kleinere, bis 1949 bestehende Kirche ersetzt wurde. Im Jahr 1770 wurde William Chambers mit der Planung eines Kirchenneubaus beauftragt, der aber nicht realisiert wurde. Erst 1812 begann sein Schüler Thomas Hardwick mit dem Bau einer Kapelle, aber noch vor deren Fertigstellung fiel die Entscheidung zum Ausbau als selbständige Pfarrkirche für den neuentstandenen Bezirk, der seinen Namen von der Kirche empfing. Im Jahr 1882 führte der Architekt Thomas Harris eine Umgestaltung des Kircheninneren durch; ein Bombenschaden während des Zweiten Weltkriegs wurde bis 1949 beseitigt.
Anstelle des zunächst intendierten viersäuligen ionischen Portikus erhielt der Kirchenbau nun eine über die Bauflucht vorspringende achtsäulige übergiebelte Vorhalle mit drei Portalen nach dem Vorbild des Pantheon in Rom und statt einer Kuppel einen Turmaufbau, der den römischen Vestatempel nachahmt und dessen Kuppel von acht Karyatiden getragen wird. In ihrem Innern besaß die Kirche doppelgeschossige Emporen über gusseisernen Säulen. Bei ihrer Vollendung im Jahre 1817 hatten sich die Baukosten auf ca. £ 80.000 belaufen.