Zum Kirchengelände gehört eine barock-klassizistische Kalvarienberg-Skulpturengruppe aus dem Jahr 1760. Die Sandsteingruppe in dreieckiger Anordnung ist von einer steinernen Balustrade umgeben; ein Gesimsabschluss überdacht das davor aufgestellte Kreuz mit dem gekreuzigten Christus. Unter dem Kreuz befindet sich eine kniende Statue der Maria Magdalena. Seitlich stehen auf getrennten Sockeln Statuen des heiligen Johannes und der Jungfrau Maria. Die Gruppe wurde anlässlich des Baus der Krypta von Bischof František Fuchs, dem Bauherrn dieser Kirche, aus dem ehemaligen Kamaldulenserkloster auf dem Zobor hierhergebracht.
Kostol sv. Michala Archanjela bol postavený z lomového kameňa v prvej polovici 11. storočia s postupnými úpravami v 12. a 13. storočí. Starobylá románska stavba je neobyčajne krásna svojim jednoduchým tvarom. Kostolík je použitý ako predloha na rube slovenskej päťdesiatkorunovej bankovky. V blízkosti kostolíka sa nachádzalo pohrebisko, na ktorom bolo archeologicky preskúmaných 447 hrobov z 11. – 17. storočia. Návršie, na ktorom kostolík stojí, končí v opustenom kameňolome, ktorý bol ako dôležitý geologický odkryv v roku 1994 navrhnutý na vyhlásenie za chránené územie.