Где бы ни служил Николай Фёдорович Ватутин, он везде старался тщательно изучать действия различных родов войск. С декабря 1931 года по октябрь 1933 года занимал должность начальника штаба 28-й горно-стрелковой дивизии Северо-Кавказского военного округа. В справке об аттестовании за этот период указано: «Товарищ Ватутин хороший начальник штаба дивизии. Трудолюбив, вдумчив. Аккуратен и инициативен. Настойчив. Много и систематически работает над собой по расширению своего оперативно-тактического кругозора и углублению марксистко-ленинской подготовки. Отличный стрелок. Вдумчиво и добросовестно разработал мобилизационные планы… Активен в общественной и партийной работе. По своему складу характера типичный оперативный работник…».

В октябре 1933 года Н.Ф. Ватутин снова был направлен в Военную академию Рабоче-крестьянской Красной армии имени М.В. Фрунзе, но теперь уже на оперативный факультет, созданный специально для того, чтобы штабисты старшего и высшего командного состава учились управлять войсками в новых условиях. Лекции в академии читали лучшие преподаватели, в том числе начальник учебного заведения Б.М. Шапошников. Однокурсниками Н.Ф. Ватутина оказались будущие маршалы Ф.И. Толбухин и И.С. Конев, а также генерал армии А.И. Антонов.

В 1936-1937 годах Н.Ф. Ватутин стал одним из первых слушателей только что открывшейся Академии Генерального штаба, высшего военного учебного заведения страны. В связи с назначением Н.Ф. Ватутина в июле 1937 года на должность заместителя начальника штаба Киевского особого военного округа, Приказом Народного комиссара обороны от 11.12. 1938 года ему были присвоены все права окончивших академию.

22 февраля 1938 года Указом Президиума Верховного Совета СССР был награжден юбилейной медалью «ХХ лет РККА».

В ноябре 1938 года Н.Ф. Ватутин становится начальником штаба Киевского особого военного округа.