Кладбище расположено в Северной промзоне, на склоне сопки. Начинались проводиться захоронения с нижней части склона, здесь сохранились надгробия, датированные 1936 годом. Много сохранившихся деревянных крестов, некоторые холмики не отмечены вообще – так выглядит сегодня самая старая часть кладбища, ещё довоенная.
Во время войны окраину Мурманска, на которой находилось кладбище, усиленно бомбили фашистские бомбардировщики. То есть бомбили не место захоронений, конечно, а военную дорогу, проходившую по его территории. И радиостанцию с её высоченной радиомачтой, находившуюся поблизости. Но кладбище в результате пострадало очень серьёзно.
Сейчас дороги через кладбище нет, пройти свободно можно только по пешеходной тропе, пересекающей его. Остальные части практически непроходимы из-за сплошных металлических оградок, создающих запутанные лабиринты и совместно с раскидистыми ветвями местной растительности исключающих любые посещения.
Сталинско-хрущёвская эпоха наложила свой отпечаток на архитектурное оформление кладбища. Архитектура его очень бедна и однообразна, заключается преимущественно в цементных или металлических надгробиях со звездой или православным крестом. Только изредка встречаются гранитные стелы. Такой стиль отражает не столько низкий уровень жизни тогдашнего общества, сколько большевистскую установку на всеобщую унификацию. Ни одно захоронение не должно было выделяться из общей массы, даже если деревянный крест поставить было дешевле. И если в 30-е годы такое оформление могил встречалось часто, то позже оно полностью уступило место советскому конструктивизму, формы которого практически полностью лишены религиозного влияния.
Старое кладбище дало последний приют многим людям, деятельность которых можно рассматривать как вклад в историю Отечества. Это и самые первые жители города, и знаменитые моряки, жизнь которых, как и жизнь города в целом, неотделима от моря. Это деятели науки и культуры, представители мурманской интеллигенции и местной власти.
Существуют на старом мурманском кладбище также воинские захоронения. Выделены участки под мемориальное Союзническое кладбище и Кладбище советских воинов.