Kaple byla nejstarším kostelem ve městě. K pozdější gotické kapli byla přistavěna Bílá věž. Gotická kaple byla zbořena a nahrazena v letech 1714 - 1717 barokní novostavbou nákladem biskupa Jana Adama Vratislava z Mitrovic. Autorství je připisováno J. B. Santinimu. Venkovní půdorys je obdélníkový se zkosenými rohy, vnitřní je elipsovitý. Stavba je uzavřena eliptickou kupolí s lucernou, na jejíž bázi je zlacená papežská tiara. Havarijní stav kaple byl odstraněn koncem 20. století a počátkem nového století byla vrácena k liturgickým účelům.