Смоленский храм возведен на месте явления чудотворной иконы Смоленской Божией Матери. История его создания восходит к началу XVIII века. Согласно преданию, в полночь с 1 на 2 октября 1703 года находившийся на посту Белгородского полка Мефодий Иванов увидел необыкновенное зрелище: на городских воротах от образа Смоленской Пресвятой Богородицы блеснул свет, наподобие солнечного, а от него сама собой зажглась восковая свеча. Трижды часовой тушил свечу, но она загоралась все снова и снова. Наутро уже весь город знал об этом чудесном происшествии.
В том же году на месте явления чудотворной иконы Смоленской Божией Матери была воздвигнута часовня, а рядом вырыт колодец. Поток
богомольцев к чудодейственной иконе увеличивался с каждым днем, и в 1705 году рядом с часовней была построена деревянная Смоленская церковь,
которая впоследствии сгорела, простояв 32 года. 

В 1737 году была заложена двухэтажная каменная церковь. В 1760 года храм получил статус собора. В 1922 году храм был закрыт и использовался как складское помещение.
При фашистской оккупации собор некоторое время действовал. При штурме города нашими войсками он был сильно поврежден. В конце 1980-х годов было принято решение о реконструкции храма.

В 1992 году храм был возвращен верующим.
Смоленский собор является объектом культурного наследия федерального значения.