Николай Федорович Ватутин родился 16 декабря 1901 года в селе Чепухино Валуйского уезда Воронежской губернии (сегодня это село Ватутино, расположенное в Белгородской области) в семье крестьянина-середняка. В автобиографии он писал, что до Октябрьской революции 1917 года родители занимались земледелием, главой семьи был дедушка. По численности она достигала до 30 человек и имела одно общее хозяйство — зажиточное, но наемный труд не применялся. В 1911 года отец отделился от общей семьи и продолжал заниматься сельским хозяйством. Кроме Николая в семье было еще восемь детей.
С ранних лет Николай Ватутин отличался стремлением к получению знаний: Чепухинскую сельскую школу окончил с похвальным листом. Учителя, отмечая его пытливый, живой ум и редкие способности, настоятельно рекомендовали непременно продолжить образование. Но у родителей были другие планы на сына: семье нужен был работник. Стоило большого труда уговорить их отпустить Николая в Валуйки в уездное земское училище, которое он затем окончил с отличием. Также увлеченно он учился с 1915 по 1917 год в Уразовском коммерческом училище.
Однако образование пришлось прервать и вернуться в родное село, так как перестали выплачивать стипендию. 25 апреля 1920 года Н.Ф. Ватутин был призван в РККА по мобилизации Валуйским уездным военным комиссариатом. Молодой солдат в первом же бою проявил такую отвагу, хладнокровие и находчивость, что был направлен командованием в 29 пехотную школу, переименованную в Полтавскую пехотную школу. Там он и открыл для себя, что военное дело — наука интересная и многогранная. Учился жадно, подкрепляя теорию практикой: курсантом участвовал в походах и боях против отрядов Нестора Махно.
Удостоверение красного командира Ватутин получил в 1922 году во время торжественной церемонии на поле Полтавской битвы из рук самого М.В. Фрунзе. Там же был объявлен приказ о назначении его командиром отделения 67-й стрелкового полка 23 отдельной стрелковой дивизии.
В августе 1923 года Николай Федорович получает повышение и становится командиром взвода. В 1924 году Ватутин окончил Киевскую высшую объединенную военную школу, после чего вернулся в свой полк и в ноябре 1925 года назначен на должность командира роты.