Нагрудные знаки в СССР выполняли функцию поощрения военнослужащих за особые достижения. Получение такой награды делало военного человека примером для подражания, а других побуждало быть более целеустремленными и мужественными, что в целом способствовало усилению боевой подготовки армии. Одна из наград, вручавшихся в СССР, — нагрудный знак «Гвардия». До начала войны ее не существовало в связи с отсутствием в советской армии гвардии (была распущена в 1918 году). Второе рождение этого вида войск произошло в 1941 году. Поводом для этого послужили жестокие бои, проходившие под Ельней и Смоленском (лето-осень 1941-го), благодаря которым гитлеровский план молниеносного захвата Москвы был сорван. Особое мужество проявили четыре стрелковые дивизии (100-я, 127-я, 153-я, 161-я). Согласно приказу НКО СССР № 308 от 18 сентября 1941 года, они были переименованы в гвардейские.
После создания гвардии встал вопрос о знаках отличия для данных воинских подразделений. Первоначально рассматривали введение особой формы одежды. Но, проведя некоторые расчеты и приняв во внимание тяжелое состояние страны, этот вариант отклонили из-за довольно высоких материальных затрат. Также предлагалось ввести для гвардии погоны. Но этот вариант также отклонили, не только по причине материальной сложности его реализации. Для многих погоны гвардейских войск стали неким символом Гражданской войны. В итоге было решено повысить жалованье для военнослужащих гвардии (для офицеров — в 1,5 раза, для рядовых — в 2 раза), а также учредить гвардейские знамена и нагрудные знаки «Гвардия».
12 апреля 1942 года художнику С. И. Дмитриеву была поручена разработка проектов знака. 19 апреля все разработанные эскизы были переданы Верховному главнокомандующему страны. При подробном изучении проектов внимание Сталина привлек один из эскизов — овальный венок с развернутым сверху знаменем и звездой в центре. Иосиф Виссарионович предложил художнику доработать этот вариант знака, в частности заменить профиль В. И. Ленина на надпись «Гвардия». По словам исследователя фалеристики Б. В. Айрапетяна, это было сделано из практических соображений — с течением времени образ вождя мирового пролетариата постепенно бы устаревал, тогда как надпись «Гвардия» на протяжении многих лет сохранила свое первоначальное значение. 21 мая 1942 года вышел Указ Президиума Верховного Совета СССР об учреждении знака СССР «Гвардия».
Вручение знака СССР «Гвардия» всегда происходило на общем построении и сопровождалось выносом гвардейского знамени. К награде прилагался документ, подтверждающий ее получение. В годы войны и в первое послевоенное время знак «Гвардия» можно было носить постоянно, даже если отличившийся гвардеец переходил на службу в негвардейскую часть. С 1961 года носить данный знак отличия разрешалось только во время службы в гвардейских войсках. По правилам награду носили на правой стороне повседневной или парадной формы.