К подготовке вооружённого восстания приступили весной 1943 года. В целях конспирации сначала создавались небольшие боевые группы в составе четырёх – пяти человек. Каждый входящий в группу подпольщик знал только товарищей по группе и своего ближайшего командира. К годовщине Октябрьской революции было организовано восемь боевых групп. 7 ноября 1943 года руководители центра сидели в бараке и наблюдали, как через определённое время по улице проходили небольшие группы людей и на несколько минут задерживались перед окном, чтобы их успели внимательно рассмотреть. Так продолжалось несколько часов. К 1944 году первая подпольная бригада состояла из трёх батальонов, батальон — из трёх рот, рота — из трёх взводов. В этом же году в Бухенвальде образовались ещё две русские бригады — «Каменная» и «Деревянная». Первая формировалась из заключённых, проживающих в каменных бараках, вторая — из узников деревянных бараков. К зиме 1945 года возникла «Малая бригада», состоявшая из заключённых малого лагеря.