Сын ремесленника-бочара. Обучался в Августинском колледже, но курса не закончил, работал писцом у нотариуса, потом надзирателем на литейном заводе. В 1788 году вступил рядовым в гусарский полк в Метце. В октябре 1792 года произведён в су-лейтенанты. Участник революционных войн, в ходе которых был дважды ранен. В 1796 году, за исключительную отвагу, был произведён в бригадные генералы. в бою под Нойвидом 17 апреля 1797 года Ней попал в плен к австрийцам и в мае того же года вернулся в армию в результате обмена на австрийского генерала. В 1799 году за взятие крепости Мангейм произведён в дивизионные генералы. В 1804 году включён в первый список первых 18-ти маршалов Империи. 

В кампаниях 1805, 1806–1807 годов с Австрией, Пруссией и Россией командовал корпусом. В сражении под Фридландом его действия решили исход битвы, за что маршал заслужил прозвание le brave de braves — храбрейший из храбрых. Командовал корпусом в кампаниях 1808–1811 годов в Испании и Поругалии. 

В 1812 году командовал 3-м армейским корпусом. Участвовал в сражениях при Смоленске и Валутиной Горе. В Бородинском сражении действовал на центральном участке. В ходе отступления Великой армии командовал арьергардом. Особенно отличился в сражении под Красным. За подвиги в кампанию 1812 года в 1813 году получил патент на титул князя Москворецкого. 

Участвовал в кампании 1813 года, был дважды ранен, и в кампании 1814 года. После отречения Наполеона от власти примкнул к Бурбонам. Король Людовик XVIII назначил его членом военного совета и пэром и поручил ему начальство над шестой дивизией. 

Когда Наполеон возвратился с острова Эльбы, Ней обещал Людовику XVIII привести Наполеона живым или мёртвым, но 17 марта 1815 года, увлекаемый всей своей армией, перешёл на сторону Наполеона. «Словно плотина прорвалась, — говорил Ней, — я должен был уступить силе обстоятельств». Сражался при Катр-Бра и Ватерлоо. 

 
После реставрации династии Бурбонов был арестован и расстрелян по приговору суда палаты пэров как государственный изменник.