根据考古，现有发现最早的纸是不晚于西汉武帝时期出现的灞桥纸，原料主要是大麻和苎麻纤维。东汉时期的《说文解字》中对纸进行解释的时候用到了“絮”，虽然对絮纸的制作过程有简单的说明，但考古并未发现实物，再加上甲骨文、西周金文和战国的文字中也没有“纸”这个字，可以推测，纸可能产生在战国末期到秦代。
西汉时期出土的灞桥纸是世界上最早的植物纤维纸，除此之外还有罗布卓尔纸、居延金关纸和扶风中颜纸等。这些最早的纤维纸工艺较为原始，主要是用来垫物或包裹物品的，不一定用于书写，直到东汉蔡侯纸问世，正式用于书写，与赫蹄纸成为后来成熟纸的雏形。
《东观汉记》和《后汉书 蔡伦传》中都指出纸的发明者是东汉的蔡伦。作为宫廷内侍的他觉得竹简太重，使用起来很不方便，因此想要改良造纸术，用树皮、麻头、破布、渔网来造纸，将这些原材料经过蒸、煮等工艺处理后捣烂，做成浆液，灌入抄纸器中定型，然后放到平面筛子上脱水，最后晾干压平，就形成细密且能够用于书写的纸了。他将这工艺一上奏给朝廷，便风行天下，人们称之为“蔡侯纸”。
从蔡侯改良纸开始，中国的纸得到了普及，并不断的改进升级，三国魏晋时期的佐伯也是造纸名家，在蔡侯纸的基础上，增加了树皮、藤、草等，故而这个时期还出现了皮纸、藤纸和草纸等各种纸张。晋朝嵇含所著的《南方草木状》甚至记载用沉香制作的香纸，“蜜香纸，以蜜香树皮叶作之。微褐色，有纹如鱼子，极香而坚韧，水渍之，不溃烂。”蜜香树即沉香树，后世的《岭表录异》中也有提到“广州多栈香，以作纸名为香皮，是此纸也。”除此之外，晋朝时期还出现了染纸，从黄檗（黄柏）中熬取汁液来染成黄色的纸，故名黄麻纸，这种纸可以杀虫防蛀。
魏晋南北朝时期，纸已经面向了普通民众，隋唐时期，最早的宣纸出现了，伴随着唐代印刷术出现，直接刺激了纸的生成。公元8世纪，中国的纸张利用已经相当广泛，当造纸术由阿拉伯人传入欧洲后，欧洲人才学会造纸。
