史前的彩陶紋飾、商周的甲骨文、竹木簡牘、縑帛書畫等到處留下了原始用墨的遺痕。文獻記載，古代的墨刑（黥面）、墨繩（木工所用）、墨龜（測試）也均曾用墨。經過這段漫長的歷程，至漢代，終於開始出現了人工墨品。
這種墨原料取自松煙，最初是用手捏合而成，後來用模制，墨質堅實。據東漢應劭《漢官儀》記載：“尚書令、仆、丞、郎，月賜愉麋大墨壹枚，愉麋小墨壹枚。”愉麋在今陜西省千陽縣，靠近終南山，其山古松甚多，用來燒制成墨的煙料，極為有名。
提及徽墨，就繞不開人人都知的“胡開文墨”。作為制墨的百年老字號，胡開文創基於乾隆三十年，迄今已有二百余年。
創始人胡天柱，出生於徽州壹個貧苦人家。因家境貧寒，他小小年紀就去了休寧縣汪啟茂墨店當學徒。由於天資聰明，忠厚老實，深得老板汪啟茂的器重，汪啟茂更是將獨生女許給了胡天柱為妻。後來他接管墨店，給汪家的墨取了個字號，名曰“胡開文”。
明朝人說過，壹兩黃金壹兩墨。制作好墨，壹定會用到好膠好木料。尤其徽墨配方非常講究，動輒用上松煙、桐油煙、牛皮膠、麝香、冰片、金箔、珍珠粉等10余種名貴材料進行調配。如此制出的徽墨方能拈來輕、磨來清、嗅來馨、堅如玉、研無聲。
但是，好墨的金貴，卻更貴在手藝、心血和時間。為了保證原料的品質，胡天柱令其子在黟縣漁亭辦了壹個煙房，利用豐富的優質松木，點燃幾百盞油燈精煉松煙。油煙墨色澤光亮，松煙墨烏黑潤和。如此才制出了“落紙如漆，萬載存真”的好墨。