В 1960 году на базе Як-27К и Як-28 был создан новый двухместный сверхзвуковой перехватчик Як-28П. Он предназначался для борьбы с воздушными целями на малых и средних высотах в большом диапазоне скоростей днем и ночью при любой погоде.
Госиспытания Як-28П с системами вооружения К-8М-1 и К-98 продлились до 1965 г. Задолго до их завершения, в 1962 г., началось серийное производство самолета в Новосибирске на заводе им. Чкалова (заводской шифр — изделие «40»). До 1965 г. там продолжалось производство перехватчика Су-11, оснащенного той же системой вооружения. Сложилась редкая ситуация, когда на одном заводе одновременно строились машины, созданные в различных КБ. Як-28П стал самой массовой модификацией из всего семейства — до 1967 г. построили 435 единиц. Однако самолет официально на вооружение принят не был, несмотря на то, что эксплуатировался частями ПВО в течение многих лет.
Самолет долгое время использовался также и в летных училищах, в барнаульском даже стоит его памятник. По воспоминаниям авианаводчика Егорова Александра Андреевича, во время обучения им дали задачу — рассчитать аэродинамические характеристики ЯК-28П. Долго студенты бились над правильным ответом, а он был прост — с такими характеристиками самолет летать в принципе не должен.Правда эта история или байка, одно остается верным: самолет был уникальным и отличался по всем параметрам от остальных, начиная с внешнего вида и заканчивая особыми элементами управления.