Гостиные номера открылись в 1904 г. В очерке «Белгород и его святыни» А. Фирсова, который был опубликован в 1910 году в «Историческом вестнике» дается описание магазина и гостиных номеров: «Особенно хорош книжный, писчебумажный, игрушечный и музыкальный магазин А.А. Вейнбаума, помещающийся на главной улице под гостиницею, принадлежащею тому же хозяину.
Последняя, носящая название „Номера для приезжающих“, имеет одиннадцать очень высоких, прилично меблированных, с отличными кроватями номеров, с ценой от 50 копеек до двух рублей в сутки; здесь имеется прекрасная ванна и телефон. В гостинице можно получить от 1½ до 3½ ч. дня обед из двух блюд за 60 коп., а из трех — за 75 коп.». В период проведения в Белгороде торжеств по случаю канонизации святителя Иоасафа Белгородского стоимость варьировалась от 1 руб. 25 коп. до 4 руб. 50 коп.
Сведения об этом содержатся в «Путеводителе по Белгороду» И. Кулегаева, изданном в 1911 г. для приезжающих в город гостей. Хозяин постоянно заботился о престиже своих номеров. Если в 1910 г. в них имелся всего один телефон, то уже через год к услугам гостей были городской и земский телефон. Открыта образцовая кухня, в ваннах устроен душ.
В магазине можно было купить различную литературу, писчебумажные и канцелярские принадлежности, учебники для школ 1-й и 2-й ступени.