Так и сделали, участок был выделен на окраине, и на нём соорудили церковь Преображения. Один из её престолов назывался Священномученика Харлампия. Отсюда и название кладбища – Харлампиевское, известное также как Преображенское. Церковь также в разных источниках называется то Преображенской, то Харлампиевской. Имелась при храме двухместная богадельня из дерева.
Здание церкви было деревянным и начало приходить в негодность. Тогда местные купцы П.Смирнов, О.Соплаков и другие пожертвовали средства на возведение нового, на сей раз кирпичного, храма. Что и было сделано в 1845 году. Сегодня от этого строения мало что осталось. Закрытая в 1930 году, церковь сильно пострадала в результате военных действий, после войны продолжала разрушаться и разбираться практически беспрепятственно.
Хоронили возле церкви обычно лиц духовного звания, а также заслуженных людей, много сделавших для развития родного города, почётных граждан. Сейчас на кладбище находятся воинские захоронения, которые охраняются как памятники истории. Так, захоронены здесь лётчики 212 авиаполка, погибшие в 1941 году, 24 июля. Вследствие взрыва их самолёта с авиабомбами, погибли военнослужащие старший лейтенант Н.Б. Поздняков, лейтенант В.П. Вагин, младший сержант Г.Г. Соломащенко, младший сержант В.А. Рыбалкин.
Летящие журавли над их могилой увековечивают память погибших.
Погребены на этом кладбище и воины-интернационалисты, павшие при исполнении своего воинского долга. Леонид Николаевич Абрамов (1960-1980) и Анатолий Анатольевич Авилов (1962-1981). На могилах этих парней установлены памятники.
Покоится на Харлампиевском кладбище прах Валентины Сергеевны Раевской. Лейтенант, уроженка Мценска летом 1941 года служила в Бресте, где и была застигнута войной. Оказывая первую медпомощь солдатам, была тяжело ранена и попала в плен. Несколько раз бежала из лагерей, но безуспешно. Освобождена Советской Арией, как и другие защитники Брестской крепости, получила орден Красной Звезды. На её могиле установлен обелиск с фотографией.
Активисты считают, что кладбище должно иметь статус достопримечательного места Мценска, а могилы некоторых выдающихся людей обязаны охраняться.