Идея создать стрелковое оружие, в котором сочетались бы маневренные качества ручного и мощность станкового пулеметов, впервые появилась у оружейника Владимира Федорова. Еще в начале 1920-х годов он разрабатывал на базе своего автомата образца 1916 года различные варианты пехотного пулемета, который можно было бы устанавливать либо на сошки — складные упоры, — либо на легкий полевой станок.

В начале 1950-х годов Главное артиллерийское управление вернулось к идее создать единый пулемет под винтовочный патрон калибра 7,62×54 миллиметра R. В 1953–1958 годах тульские конструкторы Григорий Никитин и Юрий Соколов спроектировали, изготовили и протестировали несколько образцов. Пулемет Никитина-Соколова (ТКБ-521) прошел войсковые испытания, в 1958 году успели изготовить большую серию орудий. Однако военные заказчики потребовали доработать образец и окончательного решения о постановке его на вооружение не приняли.

По инициативе бывшего коллеги по Щуровскому полигону, представителя Главного артиллерийского управления полковника Владимира Дейкина конструкторское бюро Калашникова тоже включилось в работу. В 1960 году образец был готов. По итогам испытаний выявили преимущества новой модели перед ТКБ-521: пулемет мог работать с лентами ранних образцов и проще разбирался и чистился. Его узлы были менее чувствительны к попаданию воды, что важно при форсировании рек бронетехникой.

В 1961–1962 годах единый пулемет Калашникова (ПК) и его варианты — станковый, танковый и бронетранспортерный — приняли на вооружение Советской армии. В 1969 году на вооружение встал и пулемет Калашникова модернизированный (ПКМ) с треножным станком и патронной коробкой.
Эдвард Изелл в «Истории развития АК-47» писал:

В Советской армии пулеметами вооружали мотострелковые роты. Это мощное и удобное групповое оружие было относительно небольшим и легким при хорошей кучности стрельбы и убойности. Пулеметная пуля со стальным сердечником пробивала стальной шлем с расстояния 1700 метров. В наши дни пулеметами Калашникова вооружены армии 15 стран.