Губкинский краеведческий музей организован 1 апреля 1962 года при НИИ КМА им. Л.Д. Шевякова.
В основу экспозиции легла коллекция минералов и палеонтологических находок, собранных при разработке Лебединского карьера. Ответственным за музей назначен бывший армейский культработник Алексей Иосифович Иванов, которому удалось создать один из самых интересных общественных музеев области, ставший визитной карточкой края. В 1975 г. музей переехал в отдельное помещение на первом этаже нового дома, где и располагается до настоящего времени. В 1993 году музей получил статус краеведческого.
В настоящее время музейное собрание насчитывает более 30 тысяч предметов. Здесь собраны материалы по истории КМА, природе, фотографии, документы, орудия труда и предметы быта жителей края.