Дипломатическая карьера Головина началась в 1686 году, когда он возглавил миссию, направленную на Амур с целью урегулирования пограничного конфликта с Китаем. Благодаря ему в 1689 году был подписан Нерчинский мирный договор, по которому были определены границы и установлены торговые отношения между Россией и Китаем.

 
В 1691 году Федор Головин вернулся в Москву, где его принял Петр I и назначил на должность сибирского наместника. В 1696 году государь сделал своего сподвижника генерал-комиссаром, ответственным за материальное обеспечение армии. Головин сумел в короткие сроки наладить бесперебойное снабжение войск продовольствием и вооружением. Лично командуя эскадрой галер, он дошел по Дону до турецкой крепости Азов.

 
Головин был вторым послом Великого посольства. Он вел переговоры с иностранными монархами, нанимал иноземных специалистов, закупал вооружение, инструменты и материалы. В начале 1698 года Головин отправился в Англию, где заключил договор о торговле табаком с лордом Перегрином Осборном и посетил парламент. В Вене он сумел за короткое время расположить к себе императора Священной Римской империи Леопольда I, который в 1702 году возвел русского дипломата в графское достоинство.

 
Федор Головин принимал активное участие в главных начинаниях Петра — создании регулярной армии и военно-морского флота на Азовском и Балтийском морях. Он одним из первых сбрил бороду и сменил русскую традиционную одежду на европейский костюм.

 
Головин сыграл ключевую роль в подписании договоров Петра Великого с польским королем и саксонским курфюрстом Августом II, способствовал вовлечению Речи Посполитой в войну со Швецией, а также вел переговоры о союзе с Пруссией. В ходе Северной войны он принимал участие в битве под Нарвой и взятии Ниеншанца.

 
Федор Головин умер по дороге в Киев летом 1706 года. Царь считал Головина своим другом и в письме, извещавшем о его смерти, подписался: «печали исполненный Петр».