Графитные карандаши известны с XVI века. Мощная буря, прошедшая по Англии в местности Камберленд, вывернула с корнями деревья, и тогда местные пастухи обнаружили в обнажившейся земле под вывернутыми корнями некую тёмную массу, которую они посчитали углём, который поджечь, однако, не удалось. Из-за цвета, схожего с цветом свинца, месторождение приняли за залежи этого металла, но и для изготовления пуль новый материал оказался непригоден. Тогда, после разных проб, они поняли, что эта масса оставляет хорошие следы на предметах, и воспользовались этим, чтобы метить своих овец. В дальнейшем они начали производить из него тонкие заострённые на конце палочки и использовали их для рисования. Эти палочки были мягкими, пачкали руки и подходили только для рисования, но не для письма.
В 17 веке графит продавали обычно на улицах. Художники, чтобы было удобнее и палочка не была такой мягкой, зажимали эти графитовые «карандаши» между кусочками дерева или веточками, оборачивали их в бумагу или обвязывали их бечёвкой.
В Германии в 1719 году началось первое производство графитных карандашей. Немцы, смешивая графит с серой и клеем, получили стержень не такого высокого качества, но по более низкой цене.
