Казённая мужская гимназия, расположенная на улице Манежной, была открыта в 1871 году. Первоначально в ней имелось только пять классов вместе с подготовительным. Хорошо сохранившееся двухэтажное здание было построено в 1875 году на средства известного в России коммерсанта Самуила Полякова, получившего концессию на строительство железной дороги от Ельца до Грязей. Иван Бунин перешагнул его порог в 1881 году. Он поступил в гимназию по решению родителей сразу в первый класс, предварительно сдав небольшой экзамен.
«Три года готовили меня к этому знаменательному дню: а меня только заставили помножить пятьдесят пять на тридцать, рассказать, кто такие были амаликитяне, попросили «четко и красиво» написать: «снег бел, но не вкусен» да прочесть наизусть: «Румяной зарею покрылся восток…»
Бунин И.А. «Жизнь Арсеньева»
На всю жизнь запомнился и первый учебный день: «Утро, когда мы с Глебочкой в первый раз пошли в гимназию, было солнечное … как нарядны мы были! …расчищенные сапожки, светло-серое сукно панталон, синие мундирчики с серебряными пуговицами, блестящие картузики … А потом — резкая и праздничная новизна гимназии: чистый каменный двор её, сверкающие на солнце стёкла и медные ручки входных дверей, чистота, простор и звучность выкрашенных за лето свежей краской коридоров, светлых классов, зал и лестниц, звонкий гам и крик несметной юной толпы, … чинность и торжественность первой молитвы перед ученьем в сборной зале, первый развод «попарно и в ногу» по классам, … первая драка при захвате мест на партах и, наконец, первое появление в классе учителя…»
Бунин И.А. «Жизнь Арсеньева»
По словам нобелевского лауреата, учился он легко, правда «хорошо только по тем предметам, которые более или менее нравились, по остальным — посредственно, отделываясь своей способностью быстро всё схватывать».
«В третьем классе я сказал однажды директору дерзость, за которую меня едва не исключили из гимназии. На уроке греческого языка, пока учитель что-то объяснял нам, писал на доске … я, вместо того, чтобы слушать его, в сотый раз перечитывал одну из моих любимейших страниц в «Одиссее». … Внезапно в класс вошёл директор, имевший привычку ходить по коридорам и заглядывать в дверные стёкла, направился прямо ко мне, вырвал у меня из рук книгу и бешено крикнул: — Пошёл до конца урока в угол! Я поднялся и, бледнея, ответил: — Не кричите на меня и не говорите мне ты. Я вам не мальчик…»
Бунин И.А. «Жизнь Арсеньева»