Penggunaan timbal dan grafit sudah dimulai sejak zaman Yunani. Keduanya memberikan efek goresan abu-abu, walaupun grafit sedikit lebih hitam. Grafit sangat jarang dipakai hingga kemudian pada tahun 1564 ditemukan kandungan grafit murni dalam jumlah besar di Borrowdale, sebuah lembah di Lake District, Inggris bagian utara. Meskipun kelihatan seperti batu bara, mineral tersebut tidak dapat terbakar, dan meninggalkan bekas berwarna hitam mengilap, serta mudah dihapus di atas permukaan yang bisa ditulisi. Pada masa ini istilah grafit masih disalahartikan dengan timah, timah hitam, dan plumbago, artinya "seperti timah" mengingat sifatnya yang hampir sama. Karena itu istilah lead pencil (pensil timah) masih digunakan sampai sekarang. Karena teksturnya berminyak, bongkahan dibungkus dengan kulit domba atau potongan kecil timah berbentuktongkat dibebat dengan tali. Tidak seorang pun tahu siapa yang mula-mula mempunyai ide untuk memasukkan timah hitam ke dalam wadah kayu, tetapi pada tahun 1560-an, pensil yang primitif sudah sampai di benua Eropa.