最早人类发现，木炭可以拿来作画，远在文字发明前，人类就用木炭来作画，在欧洲的岩洞中仍然能看的到碳粉，或者木炭所做的壁画。到了中世纪，人们开始发现，用石灰加水，可以做成块状的物体，可以用类似木炭笔的方法，去纪录在深色，或者是坚硬的表面。那个年代纸张是很昂贵的物品，刻在木板岩石上用碳笔又容易模糊。
当然经过近千年的时间，现在已经很难去考证到底是谁第一个想到这个主意，但最早粉笔的作用，绝对不是拿来教学用。
要广泛的应用到教学上，黑板的重要性比粉笔重要的多。
在19世纪以前那用黑漆涂在木板上，是为了保护木板不受侵蚀。也兼用于公布重要事项，比较类似现在的公布栏的作用。但那时候的"黑板"都很小，而且目的并非用於教学。但到了19世纪中期，世界各地的大学开始兴盛，原本的教师口述，学生口记的教学方式，因为学生人数增多而越来越显现他的不便，因此在欧洲，在美国都开始普遍的把原本小型，非固定的黑色布告栏增大，用来教学之用便利远处的学生抄写教师的口述。
因此这近两百年的缓慢演进，终于把原本极难普及的教育，经由便利的工具，让更多的莘莘学子，得以学得足够的知识，扫除文盲无知的大众。
