據民間說法，榫卯結構最早是木匠祖師爺魯班發明的，後來又被魯班的弟子發展起來。這種說法可能是木匠最先流傳的，因為木匠的爺爺是魯班，榫卯結構是木匠最大的發明。所以，大多數木匠都願意把功勞歸於祖父魯班。
據史料記載，最早在墓葬和遺址中發現榫卯結構要追溯到河姆渡遺址。考古學家在河姆渡遺址發現了大量的幹膜榫卯結構。比如火凸方榫、雙層方榫、燕尾榫等等。
但無論是魯班還是河姆渡人發明的，都是中國古代工匠的技術結晶，對後世的影響不可估量。隨著現代生活的發展，許多高科技產品取代了古代人的手工藝技能。但是過分依賴科技產品的結果往往會讓我們遭受意想不到的損失。很多時候，壹顆小小的螺絲釘松了，就會造成無法估量的後果。
所以在科技的今天，科學家們開始越來越多的反思，類似榫卯結構的古代發明和技術也開始越來越多的應用到科技領域。