Гремячая гора является частью общего городского ансамбля Пскова наравне с Троицким собором, Петропавловским и Богоявленским храмами. На этой горе располагаются Гремячая башня и церковь Козьмы и Дамиана с Гремячей горы. Изначально она принадлежала располагающемуся здесь ранее мужскому монастырю. В 1764 году монастырь был упразднен, а церковь приписана Петропавловскому собору и обращена в приходскую.

Церковь построена в 1383 году из камня, в честь бессребреников и покровителей кузнецов Козьмы и Дамиана. До наших дней, к сожалению, храм дошел изрядно обветшавшим, с утраченными элементами декора и значительными искажениями, несмотря на частичную реставрацию 1950 года.

Это средний по размерам храм с типичной псковской архитектурой — одноглавый, с тремя апсидами. Скатов у кровли изначально было восемь, но позже их стало четыре, с небольшой главкой на маленьком глухом барабанчике.