В соответствии с данными современных исследований, захоронения изначально не имели конфессионального разделения. Только в середине 19 столетия были выделены участки для захоронений иудеев и мусульман. Территорию же христианского кладбища оградили деревянным забором, заменённым позже на каменную ограду. Камнем были вымощены также основные, главные аллеи, фрагменты их сохранились до наших дней.
Дошла до нас и церковь Всех Святых, или Всехсвятская, как называют её местные жители. Заложена она была в 1810 году, перестраивалась в середине 19 века, и в таком виде сохранилась до наших дней.
Постепенно кладбище расширялось, вместе с ростом города, к началу 20 века оно уже не находилось далеко за городом. К нему прибавлялись всё новые участки, проводились захоронения поверх заброшенных могил, строительство в пределах кладбища было запрещено.
В 1908 году власти предприняли попытку создания каталога надгробий, сохранившихся на кладбище. Но оказалось, что многие из них, притом самые красивые и богатые, разрушены и разграблены. Хотя кладбище и охранялось, его закрывали на ночь, даже церковь однажды обворовали, обманув сторожей. Вандалы, оказывается, и тогда уже были.
Таганрогское кладбище принимало в себя прах представителей множества стран, религий и национальностей, соответственно их усыпальницы были оформлены по их традициям. Самые шикарные из них стоили баснословно дорого, работали над ними греческие, итальянские мастера. Потомки, увы, не оценили этого, и пришлось кладбищу пережить не только вандализм отдельных индивидуумов, но и так называемую «пятилетку атеизма» в 1932 – 1937 годах. С могил тогда снимали кресты и памятники, представлявшие высочайшую художественную ценность, и уничтожали их.
В 1943 году Таганрог освобождён от фашистской оккупации. Сколько его освободителей погребено на городском кладбище, точно неизвестно, неизвестны и имена большинства. В разных частях некрополя можно увидеть их братские захоронения, как свидетельства изменений, внесенных войной в облик кладбища.
В 1971 году старое кладбище закрыли как непригодное для использования. Это не предохранило его от дальнейшего разрушения. В первой половине 70-х Таганрог затронула эпидемия холеры, в склепах, где обитали всякие бродяги, стала размножаться инфекция, усыпальницы стали засыпать мусором и захламлять. Так были утеряны многие произведения искусства, хотя в 1976 году самые ценные скульптуры были вывезены из некрополя и выставлены во дворе Картинной галереи.
В 1991 году кладбище постановлением Совета министров объявили памятником культуры и истории. И оно хранит в себе эту историю, хранит прах людей, её создававших. Можно сейчас назвать некоторых из самых знаменитых личностей, покоящихся здесь. Некоторые из них известны не только в городе, но и далеко за пределами страны – Алфераки, Маркаки, Макропуло, немецкие династии Нойман, Базенер, Ман. Похоронены здесь детский писатель И.Д. Василенко и художница С.И. Блонская, артист цирка А.А. Дуров со своими родственниками, врач В.В. Зак и его родственники, меценат Г.Ф. Депальдо и многие другие.
Можно ещё долго продолжать этот список, долго вспоминать тех, кто похоронен здесь. Но самое лучшее, что можно сделать сейчас, - предпринять хоть что-то, чтобы старинный некрополь Таганрога не воспринимался, как музей вандализма и беспамятства.