A mai templom helyén állt egykor az a mohamedán mecset, amelyben 1687-ben a győztes keresztény hadak a hálaadó istentiszteletet tartották. A telket azután a jezsuiták kapták meg templom és rendház építése céljából. Az építkezés csak 1731-ben kezdődött meg, Pethő István jezsuita tervei szerint. Az eredetileg viszonylag egyszerű homlokzat emeleti fülkéiben álló szobrok 1743-ból valók. A különlegesen szép rokokó előcsarnokot is 1743-ban emelték a főbejárat elé. Az 1800-as, és 1827-es tűzvészekben súlyosan rongálódott a templom, és a klasszicizáló toronysisakokat akkor készítették.
A Neszták Béla egri anyagában az szerepel,hogy a négy szobor Gábor főangyal, Mihály főangyal, Szent József, és Nepomuki Szent János alakjai.
A templom 1773-ig volt a jezsuitáké, majd a rendet feloszlatták, és a ciszterciek vették birtokukba.