A 12–13. század környékén az eredeti német telepesek kápolnát építettek ezen a helyen. A 15. század közepén a kápolnából egy gótikus stílusú templom szentélye lett. 1529-től 1673-ig a templom és a plébánia protestáns lelkészek igazgatása alatt állt. Ebben az időszakban tornyot és kétszintes karzatot építettek hozzá, amely növelte a templom befogadóképességét, mivel több környező település híveit is szolgálta. A rokokó stílusú főoltár 1714-ben készült el. A 250 × 135 cm méretű oltárkép a gyermek Jézus és Keresztelő János találkozását ábrázolja. 1764. július 27-én II. József király, a későbbi császár testvérével, Lipóttal együtt meglátogatta a templomot. A templom keletkezéséhez egy legenda is kapcsolódik. Eszerint az emberek eredetileg máshol kezdték el az építkezést, de mindazt, amit a kőművesek napközben felépítettek, reggelre lerombolva találták. Egy titokzatos hang azt tanácsolta nekik, hogy máshol építsék fel a templomot. Alkalmasabb helyet kerestek, mígnem egy égő bokorhoz értek, amelyben egy síró gyermeket találtak. Az új templomot úgy építették fel, hogy az oltár pontosan azon a helyen álljon, ahol korábban az égő bokor volt. A templomot körülvevő alacsony fal mellett emléktábla áll, amely Európa földrajzi középpontját jelöli, és a Szlovák Köztársaság Szuverenitási Nyilatkozatának elfogadására emlékeztet.
Kremnické Bane közelében található Európa földrajzi középpontja, amelyet egy jelképes emlékmű jelöl. Évszázadok óta vita folyik arról, hogy hol található Európa "valódi" középpontja. A lehetséges helyszínek Németországtól egészen Litvániáig terjednek. A középpont meghatározásának módjától és a számítás módszerétől függően ugyanis több lehetséges helyszín is adódik.