В 1896 году в г. Николаевске было открыто приходское женское училище, которое по постановлению городской думы было преобразовано в 3-классную женскую прогимназию. Своего здания прогимназия не имела. В 1897 году из сел Николаевского уезда в это учебное заведение поступило много девочек. В 1901 году в Николаевской женской прогимназии была учреждена должность классной дамы с окладом жалованья в год.
В 1905 году был открыт пятый класс и приглашены учителя с высшим образовательным цензом по истории, словесности, математике, естественной истории, педагогике, физике, космографии с жалованьем 60 рублей в год. В 1906 году прогимназия была преобразована в женскую гимназию, поскольку учебное заведение было расширено до 7 классов. В здании женской гимназии в годы Гражданской войны размещался штаб 4-й армии, куда неоднократно приезжал М.В. Фрунзе.