Terajší kostol bol postavený približne na miestach starého kostola, ktorý v r. 1806 dal zbúrať banskobystrický biskup Gabriel Zerdahelyi. Kostol bol veľmi poškodený vojnovými udalosťami a požiarmi, ktoré postihli mestečko Svätý Kríž v XVII. a XVIII. storočí. Najstaršia písomná zmienka o tomto kostole je z r.1527, kedy sa spomína ako starý.
Plány terajšieho jednoloďového, dvojvežového kostola vypracoval kňaz rehole piaristov Florián Dom. Je postavený v klasickom slohu, ktorý vládol v architektúre na Slovensku približne od polovice XVIII. do polovice XIX. storočia
Kostol bol stavaný v rokoch 1806 až 1813. Náklady na jeho postavenie dosiahli takmer 60.000 florénov. V r.1812 bol v takom stave, že mohol slúžiť svojmu poslaniu. Preto dňa 14.septembra 1812 na sviatok Povýšenia svätého Kríža biskup G.Zerdahelyi, zakladateľ a mecén kostola, tento konsekroval a do hlavného oltára uložil relikvie svätých: Fulgencia, Jukundína a Severína. Na pamiatku tejto významnej udalosti bola v terajšej kaplnke Sedembolestnej Panny Márie (pred r.1988 Lurdskej) zabudovaná pamätná tabuľa. V kaplnke sa nachádza aj obraz biskupa G.Zerdahelyiho a na oltári socha piety. 12 krížov po obvode interiéru kostola svedčí o tejto udalosti.
Vo svätyni nad hlavným oltárom je obraz – olejomaľba Povýšenia svätého Kríža od viedenského maliara Františka Schöna z r.1809. Znázorňuje udalosť opätovného postavenia svätého Kríža na Golgote. V chrámovej lodi sú štyri bočné oltáre zasvätené: svätej Anne, svätému Štefanovi, prvému mučeníkovi, Anjelovi strážcovi a Panne Márii Karmelskej – Škapuliarskej. Nad každým oltárom je olejomaľba s vyobrazením príslušného svätca. Najnovší je obraz Panny Márie Karmelskej – Škapuliarskej z r.1949 od Edmunda Messányiho z Nitry.
Okrem kaplnky Panny Márie Sedembolestnej je v kostole aj kaplnka Panny Márie Lurdskej. Svätyňa kostola je štvorcového tvaru a kostolná loď obdĺžniková.
Pod severnou vežou kostola je krypta banskobystrických biskupov. V nej sú pochovaní títo biskupi s uvedením rokov spravovania diecézy: František Berchtold (1776-1793), Gabriel Zerdahelyi (1800-1813), Jozef Belánsky (1823-1843), Štefan Moyses (1851-1869), Karol Rimely (1893-1904), Marián Blaha (1920-1943).
Keška: Pri hľadaní si dávajte pozor na muglov. Prineste si vlastné pero, keďže keška je micro.
