Члены семьи разделяли увлечение Андрея Осиповича искусством. Ольга Григорьевна училась в рисовальной школе Общества поощрения художников в Петербурге и брала уроки в Московском училище живописи, ваяния и зодчества. Дочерей Карелин назвал «пушкинскими» именами — Людмила, Ольга и Татьяна. Они обучались рисованию в открытой им во второй половине 1860-х годов Нижегородской общедоступной художественной школе. Потом они сами стали в ней преподавать. Почти все Карелины участвовали в I и II нижегородских художественных выставках (1886 и 1902гг.) и являлись членами Нижегородского общества любителей художеств, учрежденного в 1901 году Карелиным.