В 1926 году Коля закончил 9 классов и устроился слесарем в Центральный аэрогидродинамический институт (ЦАГИ). Он освоил все тонкости своей работы, но понимал, что нужно учиться дальше.

 

Заинтересовался авиацией, знал имена всех летчиков, рисовал самолеты. Молодого человека заметил авиаконструктор А.Н. Туполев, и Николаю дали направление в институт.

 
В 1930 году он поступил в МВТУ им. Н.Э. Баумана. Сначала учился на факультете грузоподъемных машин, потом перевелся на новый приборостроительный. Темой дипломной работы у Николая был жирограф — прибор для измерения угловых скоростей самолета. 

В 1935 году Николай Пилюгин, уже дипломированный инженер, вернулся в ЦАГИ и воплотил этот прибор в действующий аппарат. Этот прибор использовался для измерения более полувека. Так Николай стал заниматься системами управления самолетов.

В 1941 году он перешел в отделившийся от ЦАГИ Летно-исследовательский институт (ЛИИ, тогда он назывался Летно-испытательным). Когда началась война, просился на фронт, но его не отпустили. Во время войны занимался разработкой самолетной автоматики и испытаниями автопилотов. В 1943 году защитил кандидатскую диссертацию.

 
В 1944 году Пилюгина перевели в НИИ-1, начальником спецлаборатории в отделе управления, который возглавлял Б.Е. Черток. 

В 1945 году Черток, а затем и Пилюгин, были командированы в Германию.

 
После возращения из Германии, в 1947 году Пилюгин переходит на работу к М.С. Рязанскому, в НИИ-885, затем, по предложению Королёва, становится одним из главных конструкторов и входит в Совет, где занимается системами управления ракетой. Коллектив Пилюгина создает систему управления ракетой Р-1, а затем Р-2, значительно более надежную, устойчивую и хорошо управляемую.

 
В 1963 году коллектив Пилюгина вышел из состава НИИ-885, и Николай Алексеевич стал руководителем института по разработке систем автономного управления — НИИ автоматики и приборостроения.

 
В 1956 году Пилюгин за разработку ракетной техники был удостоен звания Героя Социалистического Труда.

В 1961 году, после гагаринского полета, это звание ему присваивают повторно.

В 1958 году Николая Алексеевича избирают членом-корреспондентом, а в 1966 году — действительным членом Академии Наук СССР. В 1967 году он становится членом Президиума Академии.

 
Самым последним проектом Пилюгина стала система бортового прицеливания на стартовой позиции, то есть автономная ориентация чувствительного элемента гироскопического прибора, задающего направления полета ракеты-носителя. 

Николай Алексеевич участвовал в создании ракет-носителей «Протон-1» и «Протон-2». Его называли «штурманом космических трасс». Занимался он и созданием системы управления возвращаемым кораблём «Буран». Но до триумфального полета не дожил.

 
Николай Алексеевич Пилюгин скончался 2 августа 1982 года, похоронен на Новодевичьем кладбище. Научно-производственному центру автоматики и приборостроения присвоено его имя.