關於“木魚”之名，最早見於唐代高僧懷海禪師所撰《敕修清規》之中：“木魚，相傳雲，魚晝夜常醒，刻木像形擊之，所以警昏情也。”由此可知木魚的得名以及為何刻成魚形的原因，據此也可推論木魚當為佛門僧侶所創制，其目的在於警示僧眾晝夜不忘修行。後世有改魚為龍者，應當是從由魚化龍之說變化而來，藉此以表示由凡人聖。
木魚有兩種：壹種為雕刻成挺直魚形，吊於庫堂或走廊，在寺院過堂時敲打所用，即用以通知僧眾吃飯或集合等等，稱之為“魚梆”、“飯梆”、“梆”等，《敕修百丈清規》卷八《法器章》“木魚”條雲：“齋粥二時長擊二通，普請僧眾長擊壹通，普請行者二通。”由此可知，古代的木魚擔負著通知大眾集體活動的重要功用，是寺院日常生活的重要法器。