Первоначально кофейные зерна варили целиком без предварительного помола. Прародительницей кофемолки считаются пестик и ступка, в которой бедуины растирали кофейные зёрна. Этот метод не отличался высокой производительностью и требовал значительных физических усилий, поэтому им занимались только арабы-мужчины, прошедшие специальное обучение.

Первую ручную кофемолку изобрели в XV веке. Это был полый цилиндр, обычно деревянный, куда засыпали целые зерна. Внутри него размещались два жернова, между которыми и измельчали кофейные зерна. Жернова приводили в движение вращая ручку, закрепленную в верхней части цилиндра.

В середине XVII века появились первые турецкие кофемолки. У них также была цилиндрическая форма, позволявшая легко удерживать мельницу в руке. Складную ручку можно было убрать в корпус. Она также выполняла роль гаечного ключа, при помощи которого можно было менять расстояние между жерновами и разбирать кофемолку для чистки.

На основе турецких кофемолок появились европейские. Они обычно имели форму куба с небольшим выдвигающимся ящичком, куда ссыпался молотый кофе после его выхода из жерновов. Для загрузки зерен кофе использовали специальную воронку, которая могла быть двух типов — закрытого и открытого. В воронке закрытого типа кофе меньше окислялся и дольше сохранял аромат.

Внутри кофемолки размещали два жернова, которые можно приближать друг к другу с помощью специального винта. Приближение жерновов позволяет получить кофе более мелкого помола. Чем меньше расстояние между жерновами, тем мельче получался помол зёрен. Жернова изготавливали из разных материалов, исходя из их свойств — металлические отличались прочностью и долговечностью, керамические меньше нагревались во время помола, не вступали в химические реакции и лучше сохраняли вкус кофе. Форма куба, которую имели европейские кофемолки, была не очень удобна, так как надо одной рукой придерживать неподвижную часть. Иногда такие кофемолки закрепляли струбциной, или зажимом, на неподвижной поверхности.

В промышленных масштабах кофемолки начали производить только в XIX веке. Первым заводом по изготовлению кофемолок владели братья Пежо во Франции.