在16世纪，大量的石墨沉积，在英国西北部的科斯威克（Keswick）附近的岩石中发现一种柔软、闪亮的矿物质。当时人们分不清石墨和铅，所以他们称石墨为“黑铅”。直到1779年科学家们才确定，之前认为是铅的材料实际上是一种微晶碳，他们借鉴希腊字“graphein”把它命名为石墨，意思是“写作”。
石墨是碳的一种形式，于1564年在英国科斯威克（Keswick）附近的博罗黛尔（Borrowdale）西斯威特（Seathwaite）山上首次发现。英国人很快将这种新发现的东西用来写字，并把这种新型书写工具命名为“铅笔”，来源于古英语中的画笔——一种以前的写作工具。
把石墨切成棒状或条状，用麻线包裹好，使用起来又结实，手感又舒服，将这样的成品叫作铅笔，这在当时很受欢迎。后来，德国发明了一种将石墨周围的木条粘接起来的方法，从此现代铅笔就诞生了。
18世纪晚期，博罗黛尔（Borrowdale）矿消耗殆尽，随着石墨储量的减少，寻找使用其他材料来替代石墨变得日益重要。法国化学家尼古拉·雅克·孔戴（Nicolas—Jacques Conte）发现，当对石墨粉、黏土粉和水进行混合、制模并烘烤后，制成品书写起来和纯石墨一样流畅。他还发现，通过改变黏土和石墨的比例来制作更硬或者更软的笔芯——石墨越多，铅笔就越黑越软。1839年，德国的洛塔尔·冯·费伯（Lothar von Faber）发明了一种将膏状石墨制成同样厚度的棒状物的方法。他后来又发明了一种对制造铅笔的木料进行切割和开槽的机器。
现在的铅笔有不同的硬度（H）和软度（B），这要归功于孔戴（Conte）发明的烧制石墨粉和黏土的工艺。铅笔不同的硬度和软度规格对艺术家和绘图员很重要。
在博罗黛尔矿丰富的石墨储备耗尽之后，世界各地陆续建立了其他石墨矿厂，其中许多矿厂是在美国建立的。1812年的英美战争终止了美国对英国铅笔的进口贸易，同年，第一支美国铅笔诞生了。