Алексей Харламов родился седьмым ребёнком в семье крепостного крестьянина, который вместе со своими домочадцами получил свободу спустя 10 лет. В возрасте 14 лет Харламов поступил в Академию художеств, учился у профессора А.Т. Маркова, за разные работы в процессе обучения был награждён несколькими как серебряными, так и золотыми медалями. 

В 1869 году молодого художника отправили в пенсионерскую поездку за границу, где ему особенно полюбился Париж, в котором Харламов и обосновался. Вскоре он вступил в ряды Товарищества передвижных художественных выставок, впоследствии отправляя на ежегодные выставки в Россию многие из своих работ.

А. Харламов вел близкую дружбу с писателем И.С. Тургеневым, который с большим энтузиазмом знакомил представителей творческой интеллигенции с произведениями молодого мастера. Благодаря высказываниям этого писателя Харламов за короткое время сделал в Париже блистательную карьеру.

 Для Тургенева Харламов написал портрет, который невероятно понравился писателю. 

О портрете Альфонса Додэ я скажу то же самое, что сказал о портрете Тургенева: отличная кисть, но лицо мало удалось».

В 1875 году пенсионерская поездка Харламова подошла к концу. Ему пришлось вернуться на Родину, но уже спустя год художник снова отправился во Францию, уже навсегда. В Париже художник снял мастерскую, которая вскоре стала модным художественным ателье. Он некоторое время экспериментировал с приемами и сюжетами в живописи, но основным жанром, в котором художник работал до конца своей жизни, оставался портрет, при том портрет женский.