Церковное предание связывает основание монастыря с именем святого Климента, одного из величайших проповедников христианства, ученика апостолов Петра и Павла, третьего римского папы, рукоположенного апостолом Петром. Согласно преданию, за свои проповеди Климент был сослан в здешние каменоломни. К тому времени в Херсонес уже было сослано около 2000 христиан. Они объединились вокруг Климента, в котором почувствовали огромную духовную силу, не сломленную лишениями и тяжелым трудом. Предание рассказывает, что в каменоломнях не было питьевой воды, но благодаря усердным молитвам епископа среди камней забил родник.

Ученые же связывают возникновение Инкерманского монастыря с иконоборческим движением в Византии VIII-IX веках, эмиграцией монахов и распространением христианства в Таврике.

Главным храмом монастыря является трехнефная базилика св. Климента с полукруглыми сводами и алтарной апсидой. В глубине апсиды вырублены две скамьи и выступ (древний престол), над ним ниша для запрестольного образа, выше - вырубленный в круглом обрамлении процветший крест. Исследователи по-разному трактуют строительство этой вырубленной в скале базилики - от VIII до XV века.

Рядом с храмом Св. Климента находится еще одна пещерная церковь - во имя Святого Апостола Андрея Первозванного. Она прямоугольная в плане, с горизонтальным потолком, алтарь отделен вырубленной в скале стеной с двумя маленькими окнами и вратами. Престол в алтаре также вырублен из камня.

Третья пещерная церковь во имя Святого Мартина Исповедника, папы римского - исторической личности, одного из наиболее значительных церковно-политических деятелей VII века, сосланного в марте 655 года в ссылку Херсонес или в Инкерман за непоколебимое отстаивание ортодоксальных христианских взглядов. Собственно, в период развитого средневековья здесь, в долине, находился развитый монастырский центр, можно сказать, Инкерманский Афон, с нескольками десятками церквей и скитов.

В годы турецкого владычества монастырь прекратил свое существование. После присоединения Крыма к России, в 1850 году был возобновлен под именем инкерманского скита святых Климента и Мартина. Монахи поддерживали в порядке исторический памятник, находяшийся на их территории, крепость Каламиту. Обитель провела реставрацию башни с въездными воротами. При этом в арку крепостных ворот вмонтировали камень со словами "Убо хощу Русь зде".

Древний монастырь привлекал многих. В своё время в монастыре побывали члены царского дома Романовых: Екатерина II, Александр III и другие. Сохранилось старое здание гостиницы, где останавливался А. С. Грибоедов, впоследствии писавший: «Самое замечательное, что я видел в Крыму, — ночной Инкерман».

После революции, начиная с 1924 года, монастырские храмы стали постепенно закрываться, последними 15 декабря 1931 года прекратили существование древние пещерные церкви.

Перед Великой Отечественной войной в подземных помещениях монастыря размещалась запасная радиостанция командующего ЧФ, а в дни обороны Севастополя 1941-1942 - штаб 25-й Чапаевской дивизии.

Возобновлен в 1991 как мужской Инкерманский Свято-Климентовский монастырь.