橡皮擦的發明和使用可以追溯到1770年，由英國科學家約瑟夫·普利斯特里發現。
在麵包屑被用來擦除鉛筆字跡之前，人們就已經在使用橡膠來擦除筆跡了。這種物質最初被切成小立方體，用於擦走鉛筆筆跡，因此被稱為橡皮擦。然而，早期的橡皮擦由於未經加工，容易腐壞。1839年，發明家查爾斯·古德伊爾發現了硫化橡膠的技術，這一發現顯著提高了橡皮擦的質量和耐用性，使其變得更加可靠和易於使用。
隨後，1858年，美國費城的李普曼發明了一種將橡皮擦嵌在鉛筆尾部的創新設計，這種設計雖然獲得了一項專利，但後來因為被判定為「只是把兩項已有的東西嵌在一起而不是新產品」而被取消。
隨著時間的推移，橡皮擦的種類和用途也變得更加多樣，包括不同形狀、大小和材質的橡皮擦，以適應不同的需求，如繪畫用的美術專用橡皮和可塑橡皮等。