Первое упоминание о церкви в в районе современных Никитских ворот датируется 1619 годом. Храм неоднократно страдал от пожаров, но восстанавливался вновь. Каменный храм был выстроен в 1685–1689 годах на месте обветшавшего деревянного.
Нынешний храм медленно возведен на соседнем участке. Сначала, в 1798–1816 годах была сооружена трапезная. В пожаре 1812 года, когда строительство под руководством Матвея Казакова было почти завершено, церковь Вознесения сгорела, сгорели и чертежи мастера.
По проекту Осипа Ивановича Бове и Федора Михайловича Шестакова в 1831 году были закончены работы над основным зданием храма. В том же году, в церкви Вознесения, состоялось венчание Александра Пушкина с первой красавицей Москвы — Натальей Гончаровой.