Пятиглавый храм находился недалеко от стены калужского кремля, близ крепостного рва. По своему местоположению и получил название — «Покрова на рву». Год его постройки неизвестен: одни источники указывают на 1685 год, другие — на 1687. Одно известно точно: согласно описи 1626 года чуть южнее располагалась деревянная «церковь Всемилостивейшаго Спаса да Покрова Святей Богородицы». Так как каменный храм воздвигли немного в стороне, на месте старой церкви установили каменный столб. 

По своей архитектуре это один из распространённых типов старинных храмов. Интересная особенность — на южном и северном фасадах храма расположены по три окна, что необычно для древних церквей. Как правило, делали два окна. Рядом с храмом расположена восьмиугольная колокольня, которая состоит из двух с половиной ярусов. 

В советское время назначение храма было довольно нетипичным: здесь вплоть до начала 1990-х годов размещалась инкубаторная птицеводческая станция. А в 1994 году здание было передано Калужской епархии.