Bâtie de 1819 à 1822, cette curieuse église néoclassique de style Greek Revival conçue par William Inwood fait écho à l'Érechthéion de l'Acropole d'Athènes par les caryatides portant le toit de la sacristie, au nord et au sud (prévues trop grandes, il fallut les tronquer). Le clocher octogonal et la colonnade de la façade sont inspirés de la tour des Vents de l'Agora d'Athènes.