“小說”壹詞最早見於莊子的雜文《外物》:“裝飾小說，遠非縣令。”把“小說”和“偉大”相提並論，指的是那些無關政治和宗教的瑣碎言論。後來，雖然小說作為壹種文學體裁的意義與《莊子》中的“小說”並不完全相同，但在古代，小說這種文學體裁總是被認為是不高雅的東西。在這壹點上，兩人還是比較接近的。
東漢班固根據七律寫《漢書》？《文藝誌》，將小說家列在十大流派的末尾。這是小說被歷史學家記錄的開始。哲學家中的小說只有4324篇，占1380篇，是數量最多的。班固根據《七觀？簡介》說:“小說家流動，因為他們是官員。街談巷議，道聽途說也有。子曰:‘雖徑必然可觀，恐泥也是君子之福。’然而，它也被摧毀了。壹個小小的知者所能達到的，也讓他忘記。如果壹句話可以接受，這也是對狂人的討論。這是歷史學家和編目家對小說的權威解釋和評價。他認為小說是八卦，被小說家收集記錄下來，成為壹家之言。雖然這是壹條小路，但還是有可取之處的。班固明確指出小說源於民間傳說，這對理解中國小說的起源具有重要意義。
追溯中國小說的起源，有以下幾個方面:
首先是神話傳說。雖然古代文獻中對神話傳說的記載非常簡略，但我們還是可以看到兩個重要的小說因素:故事情節和人物性格。神話傳說最初是口頭流傳，有的被采納入正史，逐漸固化；其中有些繼續口頭流傳，繼續豐富發展，分化出壹些新的神和英雄，增加新的故事情節。這些繼續活在人們口中的傳說，壹旦被記錄下來，就成了小說意味濃厚的軼事。在這個從神話傳說到小說的鏈條中，軼事是關鍵的壹環。甚至可以說，軼聞是中國小說的直接源頭，而軼聞最接近小說或可視為早期小說，無非是穆和顏丹子的傳記。前者對周穆王的世界之旅有詳細的描述；與《山海經》中的敘述相比，西王母降低了神性，增加了人性。後者寫燕太子丹派荊軻刺殺秦王。與《戰國策》和《史記》相比，《史記》不僅增加了細節，而且突出了燕丹的復仇者形象。(明)胡應麟稱此書為“古今小說雜列傳之祖”(《四補正》)。
其次是寓言。比如《孟子》、《莊子》、《韓非子》、《戰國策》中有很多人物性格鮮明的寓言，具有小說的意義。《韓非子》中，寓言最多的內藏故事、外藏故事、森林故事，都明確用“說”字作為標題，也揭示了它們之間的關系。顯然，寓言可以視為小說的來源之壹。
三是史傳。如《左傳》、《戰國策》、《史記》、《三國誌》，描寫人物性格、情節，或為小說提供素材，或為小說積累敘事經驗。唐傳奇小說多以傳記形式出現，《三國演義》直接表明是史傳演義，證明史傳是小說的壹個來源。在傳統的目錄學著作中，有的書要麽被歸為分科的小說家類，要麽被歸為歷史科的雜傳類，缺乏嚴格的區分，這也從壹個側面說明了歷史傳記對小說的深刻影響。
漢書？《藝文誌》記載的小說有15篇，均已死亡。其實現在漢人寫的小說都是魏晉南北朝漢人的作品，比如東方朔的《神經十國》，班固的《漢武帝故事》。以魏晉南北朝為題的小說很多，如韓丹春(三國魏)的《笑林》、張華(西晉)的《博物誌》、幹寶(東晉)的《搜神記》、(宋)的《遊與《世說新語》、王衍(北齊)的《鬼》。