В июле 1942 года немецко-фашистские войска в результате стремительного наступления после кровопролитных боев заняли правобережную часть Воронежа. На захваченной территории командование оккупационных войск установило режим террора и насилия, так называемый «новый порядок», имевший своей целью планомерное массовое истребление мирного гражданского населения.

27 августа 1942 года произошла трагедия в Песчаном логу. В здании школы № 29, располагавшейся на улице 20-летия Октября, находился госпиталь. Утром этого дня туда подъехали две немецкие грузовые машины.

О судьбе пациентов госпиталя свидетельствует акт специальной комиссии, созданной после освобождения Воронежа для расследования трагедии Песчаного лога:

Единственным живым свидетелем массовой казни оказалась жительница Воронежа Анна Фёдоровна Попова, которая случайно уцелела во время расстрела, а затем выбралась из-под трупов и спряталась в бурьяне. После освобождения Воронежа она рассказала о трагедии Песчаного лога и указала место расстрела.

В результате трехдневных раскопок, которые продолжались с 7 по 9 октября, из оврага было извлечено 450 трупов мирных воронежских жителей, зверски расстрелянных оккупантами, в их числе 35 детских трупов.

После окончания войны на братской могиле был установлен памятник. На лицевой поверхности пьедестала была установлена табличка: «Вечная память жертвам фашизма». Автор проекта неизвестен. Проект благоустройства выполнил архитектор Н.В. Троицкий. В дни празднования 30-летия Победы в 1975 году по проекту скульптора Б.А. Каткова и архитектора П.П. Даниленко в Песчаном логу завершилось строительство мемориального комплекса.