Сын Карелина Андрей Андреевич Карелин уехал из Нижнего Новгорода вскоре после смерти своего отца (после 1906 года). Как и Андрей Осипович, он закончил Петербургскую Академию Художеств, брал уроки у К.Е.Маковского. Был известен как исторический живописец и портретист, имел звание академика исторической живописи, выполнил по заказам царского двора несколько портретов и исторических картин, за одну из которых, посвященную 300-летию дома Романовых, получил личное дворянство.
Им было организовано 16 музеев. В 1925 году А.Карелина командировали в Ашхабад для изучения старинных археологических памятников Средней Азии. Последние годы провел в Ашхабаде, где заведовал культурно-историческим отделом Туркменского государственного музея.

У А.А.Карелина было трое детей: сын Фома и девочки двойняшки — Нина и Маша. Во время Великой Отечественной войны в начале 1942 года вдова Андрея Андреевича — Елизавета Владимировна и сын Фома умерли в блокадном Ленинграде. Младших, Нину и Машу, в августе 1942 года эвакуировали в Нарымский край. С собой они взяли самое ценное — несколько фотографий А.О.Карелина, бережно хранившихся дома. В июне 1944 года они добровольцами ушли в армию, учились на авиационных радистов. Их отправили на 1-й Белорусский фронт. И все это время с ними были семейные фотографии А.О.Карелина, они прошли вместе с ними долгий путь до Берлина. В 1945 году Нина Андреевна и Мария Андреевна работали в составе советской делегации на Потсдамской конференции, а в 1946 году были демобилизованы.