Медаль учреждена Указом Президиума Верховного Совета СССР от 28 января 1978 года в ознаменование 60-й годовщины Вооружённых Сил СССР.
Вместе с медалью награждённым вручается удостоверение установленной формы. Юбилейная медаль «60 лет Вооружённых Сил СССР» вручается на основании списков. Списки лиц (кроме военнослужащих), награждённых юбилейной медалью, составляются на основании документов, подтверждающих службу в отрядах Красной Гвардии, участие в боевых действиях по защите Советской Родины в рядах Вооружённых Сил СССР, партизанском движении, 20-летнюю календарную выслугу лет в Вооружённых Силах СССР или награждённые за время прохождения действительной военной службы орденами или перечисленными выше медалями.
О вручении юбилейной медали в списке награждённых производится соответствующая запись.
Юбилейная медаль «60 лет Вооружённых Сил СССР» носится на левой стороне груди и при наличии других медалей СССР располагается после юбилейной медали «50 лет Вооружённых Сил СССР».