Строительство церкви Иконы Божией Матери Всех Скорбящих Радость в Пятигорске началось в 1825 г. по приказу генерала Ермолова. Автором проекта выступил Джузеппе Бернардацци. Строительство церкви завершилось в 1828 г. Храм полностью был возведен из дерева.
Церковные богослужения в храме проводились вплоть до 1927 г. После церковь использовали в качестве переплетной мастерской, а в период Второй мировой войны она была разобрана на дрова. В 1944 г. церковь была полностью разрушена.
С распадом Советского Союза вновь поднялся вопрос о возрождении этого пятигорского храма. В 1995-1997 гг. была возведена новая церковь, которую освятили в честь иконы Пресвятой Богородицы Всех Скорбящих Радости. Автором этого проекта выступил архитектор А.С. Кихель.
В настоящее время в храме совершаются богослужения по понедельникам, а также здесь регулярно совершается Таинство Крещения. 12 и 13 ноября прошли престольные торжества малого храма в честь иконы Божией Матери "Всех скорбящих Радосте".