Идея строительства железной дороги между Нижним Новгородом, Мордовией и Средним Поволжьем родилась на XVI Всероссийской промышленной и художественной выставке 1896 года.
Инженеры предложили несколько проектов. Один предполагал строительство моста через Оку. К этому проекту вернулись лишь в XX веке. В конце же XIX века было решено протянуть линию вдоль правого берега реки.

Для инженеров-путейцев строительство новой ветки было сложной задачей. Вокзал и железнодорожные пути надо было проложить по узкому участку земли между Окой и крутым склоном. Работами руководил инженер-путеец Григорий Будагов — один из создателей проекта Транссиба.

В 1901 году, когда половина работ по строительству здания вокзала была проделана, на Окском косогоре сошел оползень. Строителям понадобилось три года, чтобы ликвидировать последствия стихийного бедствия. Вместо двух лет Ромодановский вокзал строили четыре года с 1900 по 1904 год.
Первый пассажирский поезд отправился 5 июля 1903 года. Ромодановский вокзал действовал до 1974 года. После оползня, который опрокинул городской трамвай и повредил железнодорожные пути, вокзал закрыли.