По соседству с жертвами финской войны, вскоре, через год с небольшим, стали хоронить и жертв другой войны – Великой Отечественной. Ими становились советские воины, умиравшие в мурманских госпиталях. Общее число захоронений установить точно сейчас невозможно, хотя есть информация о 1300 человек, погребенных здесь. В начале 80-х годов прошлого столетия архитектор Э. Емельянов разработал проект мемориального комплекса памяти погибших советских военнослужащих.
В процессе работ по созданию мемориала большинство надгробий военного захоронения просто снесли. Имена захороненных под ними солдат планировалось выбить на стене у входа на мемориал. Согласно проекту, она находится с левой стороны. Так и было сделано, выбиты имена и фамилии погибших. Но при этом 74 фамилии павших в советско-финляндской войне из 197 захороненных на стене не указаны. А из тех, кого помянули - некоторые написаны с ошибками. Печально, но, оказывается, и к такой работе можно относиться не совсем добросовестно.
С 1942 по 1945 год в Мурманск приходили союзнические конвои по так называемой программе ленд-лиза. Погибшие в результате бомбардировок или умершие в госпиталях военные моряки союзных Полярных конвоев похоронены неподалёку от мемориала советских воинов. Несколько десятков их нашли здесь свой последний приют. Среди них Дж. Андерсон, 16-летний юнга, и 26 членов экипажа польского эсминца «Гарланд». Сохранились надгробия четырёх поляков с английского корабля «Тобрук».
В 1989 году, отмечая 50-летие начала второй мировой, польские ветеранские организации занялись благоустройством места захоронений. На кладбище тогда установили памятник – каменный якорь-крест с эпитафией на польском. К 1991 году союзническое мемориальное кладбище стало иметь тот вид, который имеет сегодня. По инициативе и на средства ветеранских организаций США и Англии, городскими властями установлены были гранитные четырехугольные надгробия на могилах военных моряков.
