В собрании Арзамасского музея хранятся иллюстрации воспитанников первой провинциальной живописной школы, среди которых картины, гравюры и бюсты. Ее директор Александр Ступин начал собирать материалы для обучения еще в столице. Они присылал в Арзамас книги, эстампы, рисунки, этюды и антики — бюсты и статуи, скопированные с античных образцов. В их числе «Гладиатор», «Фавн» и скульптурная группа «Лаокоон с детьми». Все шедевры находились в двух специально оборудованных школьных залах. После ее ликвидации в 19861 году скульптуры были разрушены.

Скульптуру «Бюст Венеры» часто использовали во время обучения в школе А. В. Ступина. В римской мифологии Венера была богиней красоты, желания, плодородия и процветания. Культ Венеры появился в Ардее и Лавинии — регионах античной Италии. В 293 году до нашей эры построили самый первый известный храм Венеры.

В 215 году до нашей эры на Капитолии построили храм Венеры в ознаменование поражения в битве у Тразименского озера во второй Пунической войне. Позже ее стали отождествлять с греческой богиней Афродитой — матерью Энея, который спасся из осажденной Трои и сбежал в Италию. Существует легенда, что его потомки основали Рим, поэтому Венеру считали прародительницей римского народа. Ее символами были голубь и заяц. В России обычно используют греческое имя богини любви — Афродита, которое пришло через Византию, в то время как большинство западноевропейских художников, писателей и критиков применяют вариант «Венера». Сегодня два этих названия используют как синонимы.