Вопрос о необходимости наличия в городе православного кладбища, начали обсуждать с 1888 года. Какое-то время дальше разговоров дело не продвигалось, но свои коррективы в думские обсуждения внесла эпидемия холеры. Из-за этих печальных событий в 1892 году кладбище возникло очень быстро и как бы само собой.

Первое еврейское кладбище, или Старое еврейское, возникло приблизительно в начале ХІХ столетия. Еврейская община города на то время была уже достаточно большой, сформировавшейся и стабильной. Кладбище это на левом берегу речки Темерник располагалось тогда рядом с кожевенным заводом.