Алексей Петрович Ермолов родился в 1777 году в Москве. Уже в возрасте одного года его зачислили в лейб-гвардии Преображенский полк. В XVIII столетии, во времена правления Елизаветы Петровны и Екатерины II, среди дворян было принято записывать своих детей в полки еще в младенчестве.

Образование он получил в Московском университетском благородном пансионе. Затем последовал переезд в Санкт-Петербург, назначение капитаном в Нижегородский драгунский полк, короткая поездка в Молдавию. Наконец, в чине капитана Ермолова назначили адъютантом при генерал-прокуроре Правительствующего Сената Александре Николаевиче Самойлове.

В 1794 году Алексей Петрович состоял артиллерийским офицером в составе войск графа Александра Васильевича Суворова, участвовал в сражениях против повстанцев в Польше. За проявленную отвагу Ермолов получил из рук полководца орден Святого Георгия 4-й степени. Непродолжительное время он проживал в Италии, участвовал в битвах против французов в составе кроатских (хорватских) частей.

Под началом генерал-майора Валериана Александровича Зубова Алексей Петрович Ермолов принимал участие в Персидском походе армии. За доблесть при штурме Дербента его наградили орденом Святого равноапостольного Владимира 4-й степени и чином подполковника.

В 1798 году Ермолова арестовали по подозрению в заговоре против Павла I и заключили в Петропавловскую крепость. Последовала ссылка в Кострому, где он познакомился и сблизился с Матвеем Ивановичем Платовым (впоследствии — атаманом Донского казачьего войска). Платова и Ермолова освободили после восшествия на престол Александра I. В июле 1801 года Алексея Петровича приняли на службу в 8-й артиллерийский полк.

В 1805 году рота Ермолова вошла в состав армии Михаила Илларионовича Кутузова и заслужила высокую оценку своими действиями в кампании. За мужество в сражении под Аустерлицем (1805) Алексей Петрович получил чин полковника. В войне 1806–1807 годов он отличился в сражениях и боях под Голыминым, Морунгеном, Прейсиш-Эйлау, Гутштадтом, Гейльсбергом, Фридландом. За бой при Бородино Алексей Петрович Ермолов был удостоен ордена Святой Анны 1-й степени.

Оригинал портрета А.П. Ермолова кисти Джорджа Доу хранится в Государственном Эрмитаже. В Орловском военно-историческом музее представлена копия авторства Валерия Анохина.