Первые уроки изобразительного искусства получил в иконописных мастерских Алатыря и Казани, где занимался росписью церквей приволжских сел и городов. С 1902 года учился в Московском училище живописи, ваяния и зодчества. Сначала на живописном отделении, потом скульптурном. 

С 1906 по 1916 годы скульптор живет в Италии и Франции. Именно здесь он совершенствует свое мастерство и получает мировое признание. Известность приходит к скульптору под псевдонимом «Эрьзя», происходящим от названия эрзяноязычной группы мордовского народа, выходцем из которой он был.

В 1914 году началась Первая мировая война, и Степан Эрьзя вернулся в Россию. В военное время он работал санитаром в московском военном госпитале, времени на занятия скульптурой у него почти не оставалось. Помимо излюбленного мрамора, мастер начал экспериментировать и с новыми для себя материалами — цементом, железобетоном, металлом. В этот же период он занялся деревянной скульптурой. С 1918 по 1926 год Степан Эрьзя жил на Урале и Кавказе, куда отправился в поисках редких пород мрамора. В 1926 году он принял решение об эмиграции, уехал сначала в Париж, а оттуда — в Аргентину. 

В Аргентине Степан Эрьзя поселился на окраине Буэнос-Айреса. Он участвовал в местных выставках, на собственные деньги издавал брошюры о своем творчестве. За годы жизни в Буэнос-Айресе Эрьзя научился создавать скульптуры из экзотических пород дерева — квебрахо и альгарробо. 

Необыкновенно твердая древесина требовала долгой обработки. Но это окупалось ее качествами: выразительной текстурой и красивыми оттенками — от почти белого до красновато-коричневого. Всего за годы жизни в Аргентине он создал более 180 скульптур из разных материалов. В 1950 году Степан Эрьзя вернулся в СССР.

Правительство выделило ему мастерскую в Москве, где Эрьзя организовал постоянную выставку своих работ. Степан Эрьзя умер 24 ноября 1959 года. Его похоронили в столице родной Мордовии — Саранске.