關於“木魚”之名，最早見於唐代高僧懷海禪師所撰《敕修清規》之中：“木魚，相傳雲，魚晝夜常醒，刻木像形擊之，所以警昏情也。”據此，木魚當為佛門僧侶所創制，有警示僧眾晝夜不忘修行之意。此前，相傳木魚的前身乃是壹種稱為“木撲”的簡單木塊，後才刻為魚像，稱作木魚。因不入宮廷音樂，故歷代正史不載。木魚在佛教中常用以伴奏“梵吹”( 宗教歌曲)，帶有濃厚的宗教色彩。明代王圻《三才圖會》載：“木魚，刻木為魚形，空其中，敲之有聲。……今釋氏之贊梵吹皆用之。”明代以來，流行於民間，用於說唱木魚歌和昆曲伴奏。清代李鬥《揚州畫舫錄》載，當時劇場裏所用的樂器中就有木魚。後來又逐漸在歌舞伴奏和器樂合奏中應用。目前，木魚除在佛教、道教音樂使用外，還廣泛用於各種形式的器樂合奏和樂隊中。