Петр Петрович Верещагин вписал в «кавказскую» тему собственную страницу, отмеченную своеобразием и безошибочным знанием классических законов пейзажной композиции. Ученик Академии художеств, в годы самостоятельной творческой работы П.П. Верещагин проявил себя как мастер ландшафтной живописи и перспективы. Работы П.П. Верещагина связаны с традициями академической пейзажной живописи, занимающейся документально точным воспроизведением определённой местности. 

Но значение этих традиций в творчестве художника другое — многочисленные путешествия по стране и постоянная работа на натуре давали живописцу большой материал, он хотел показать увиденное с максимально возможной полнотой и обобщённостью, они полны жизненной энергии.

 
В 1873–1874 годах художник создал серию из 40 этюдов с видами Кавказа, в которых отразился огромный предшествующий опыт художника-путешественника, солидный багаж практики рисунка и зрелое понимание политики, проводимой властью на юге Российской империи. От небольших натурных этюдов художник шел к постижению богатой флоры и особенной пластики горных массивов, к новому видению пространства и воссозданию деталей национального быта Кавказа.

 
Работа «На Кавказе» из собрания музея передает ощущение глубокого, наполненного чистым воздухом пространства. Высветленные дали залиты рассеянным светом солнца, низкие скалистые уступы на переднем плане слева погружены в глубокую холодную тень. Произведение решено в сближенных холодных тонах, его живописная поверхность тщательно проработана до эмалевого эффекта. Действие как таковое здесь отсутствует. Лишь фигуры всадников и крестьян с арбой вносят элемент национального колорита в картину, эмоциональный тон которой определяется мощным звучанием самого пейзажного образа.