25 февраля 1958 года Приказом Министра внутренних дел СССР учреждается медаль «За безупречную службу». Медаль имела статут ведомственной награды.
История введения в оборот наградного знака такова. Летом 1944 г. Указом Президиума Верховного Совета СССР вводится понятие награждения за долголетнюю безупречную службу военнослужащих и сотрудников правоохранительной системы страны орденами и медалями. При десятилетней службе вручалась медаль «За боевые заслуги», за пятнадцать лет службы — орден Красной Звезды, орден Красного Знамени — за двадцать лет, орден Ленина — за двадцать пять лет. При службе тридцать лет и более осуществлялось повторное награждение орденом Красного Знамени.
В сентябре 1957 г. Указ Верховного Совета СССР отменил ранее изданное распоряжение о награждении за выслугу лет из-за массовых поощрений за выполнение служебных обязанностей. Для награждения личного состава ввели понятия о выдающихся профессиональных заслугах, проявленном мужестве и героизме при выполнении воинского долга. Этим же Указом разрешалось учредить силовым ведомствам страны специальные медали за десять, пятнадцать и двадцать лет безупречной службы.
Учрежденная медаль «За безупречную службу» МВД СССР имела три степени отличия: за 10, 15 и 20 лет службы. На начальном этапе вручения наград на оборотной стороне медали указывалась принадлежность к тому или иному силовому министерству. В Министерстве внутренних дел красная звезда с серпом и молотом в центре. Позднее стали изготавливать из посеребренной латуни.
Медаль 2 степени изготавливалась из мельхиора с позолоченной звездой на серебристом фоне. Медаль 3 степени изготавливалась из латуни Звезда под бронзу на аналогичном фоне. На реверсе в верхней части медали — пятиконечная звезда малой формы, в центре текст, размещенный в три строки: «ЗА 10 (15 и 20) ЛЕТ БЕЗУПРЕЧНОЙ СЛУЖБЫ». Медаль находилась в обороте ведомственных наград МВД СССР до 1995 г. включительно.