Впервые упомянут в письменных источниках под этим именем в 1612 году, в связи с событиями Московской битвы между русскими ополченцами и польским-литовским войском гетмана Ходкевича. 24 августа 1612 года у «острожка (Климентьевский острог), что был у Климента Папы Римского» развернулись тяжёлые бои между казаками, оборонявшими острог, и пехотой гетмана Ходкевича. Во время этих боев, когда войска гетмана захватили острог и церковь св. Климента, св. Авраамий (Палицын) совершил один из своих подвигов, остановив отступление казаков из острога. Как писал св. Авраамий: «казаки, убо которые от Климента святаго из острожка выбегли, и озревшися на острог святаго Климента, видеша на церкви литовские знамена… зелоумилишася и воздохнувше и прослезившеся к Богу, — мало бе их числом, — и тако возвращщеся и устремишася единодушно ко острогу приступили, и вземше его». Первый каменный храм на этом месте датирован 1657 годом. В 1662 году думный дьяк Александр Степанович Дуров перестроил храм с тремя приделами: Преображения Господня, Знамения и святого Николая. Храм был перестроен и освящен в 1720 году, затем в 1756—1758 годах к нему добавили трапезную и колокольню. В 1762 году прихожане получили разрешение на слом главного объёма старого храма, и к 1769 году на средства купца К. М. Матвеева был завершён пятиглавый барочный храм, дошедший до наших дней. Авторство постройки не установлено; предположительно, его выстроил И. Я. Яковлев по проекту Пьетро Антонио Трезини. В своей книге воспоминаний поэт XIX века Аполлон Григорьев восхищается тем, как господствовал храм в панораме Замоскворечья времён его детства: Но не церковь Пятницы-Прасковеи поражает и останавливает ваш взгляд с кремлёвской вершины, когда вы, отклоняя постепенно глаза от юго-востока, ведёте их по направлению к югу, а пятиглавая, великолепная церковь Климента папы римского. Перед ней вы остановитесь и идя по Пятницкой: она поразит вас строгостью и величавостью своего стиля, своею даже гармониею частей… Но особенно выдаётся она из бесчисленного множества различных узорочных церквей и колоколен, тоже оригинальных и необычайно живописных издали, которыми в особенности отличается юго-восточная часть Замоскворечья… В 1929 году храм был закрыт; в 1934 году отдан под книгохранилище обменно-резервного фонда библиотеки им. Ленина. В 2008 году здание храма, сохранившее свой облик, а также в некоторой степени интерьер, было передано православной общине, книги вывезены. В течение нескольких лет богослужения совершались только в северном приделе. При финансовой поддержки правительства Москвы проведена реставрация, которая была завершена в 2014 году. 27 сентября 2014 года Патриарх Кирилл совершил чин великого освящения отреставрированного храма.