中国古典小说的起源和正式形成都较诗歌等其他文学样式为晚，但古典小说包罗万象，写尽人情百态。古典小说作品极为繁复，其中有惟妙惟肖的各色人物，有浑然天成的环境烘托，也有起伏跌宕的故事情节。若将中国古典小说比作中国文学遗产中的一颗明珠，那么它的形成过程则恰似“蚌病成珠”，各种早期叙事文学都对古典小说的形成产生了重要的影响。这些早期的叙事文学形式就是小说的起源，它们之中都不同程度地含有小说因素，主要包括以下几方面：

第一、古代神话传说故事性强，是古典小说的重要源头。日月星辰的规律变化，天崩地裂的自然灾害，生老病死的不断更替，面对这一切无从解释的“偶然事件”，远古先民们只能默默地将自己对和平安康的企盼寄予世界的主宰——神灵。于是，造人补天的女娲，为民除害的后羿，执着悲壮的夸父，永不屈服的精卫，这一个个鲜活生动、英勇无畏的神灵形象，这一个个奇幻瑰丽的神话故事，经过人们口耳相授，代代相传，记诸笔端，真实地记录了中华民族童年时代的蹒跚步履、瑰丽想象和顽强抗争，体现了我们的祖先深重的忧患意识与勇敢的斗争精神。散见于《山海经》、《穆天子传》、《淮南子》等作品中的中国古代神话传说，不但可以视作古代小说的雏形，并且也为后世小说的形成与发展奠定了坚实的基础，魏晋时期兴起的志怪小说便直接受到上古神话传说的影响。

第二、寓言故事也是古典小说的源泉。先秦寓言故事是一种短小精悍而又富于讽刺性的文学样式，它通过假托故事来说明一个抽象的道理，作为一种论战说理的工具，哲学家用它来阐发哲理，政论家用它来宣扬政见，士大夫用它来劝谏君王，外交家用它来游说诸侯，先秦诸子以形象化的譬喻虚构了一个个生动的寓言故事。寓言的故事性、虚构性、哲理性、趣味性以及短小精悍的形式都与小说类似。据统计，仅《孟子》、《庄子》、《列子》、《韩非子》、《吕氏春秋》等五部著作中的寓言故事就近千则，其中的《愚公移山》、《狐假虎威》、《滥竽充数》、《守株待兔》、《刻舟求剑》等小故事则早就为人熟知，而《韩非子》中收录寓言故事较多的篇目甚至直接以“说”命名，例如：《说林》、《内储说》、《外储说》等，这些体制短小但饶有趣味的小故事为后世的小说创作提供了蓝本和素材。

第三、史传散文也是古典小说的重要源头。《左传》、《战国策》、《史记》等史传散文与小说的关系则更为密切。它们以叙述人物事迹来反映历史，有比较完整的情节结构、鲜明突出的人物形象及广阔的人物活动背景，还有十分激烈的矛盾冲突。例如：《晋公子重耳之亡》、《冯谖客孟尝君》、《触龙说赵太后》等文情并茂且脍炙人口的历史故事读来已有小说的意味。史传散文在写人、状物、叙事，特别是战争场面的描写方面，都为小说的形成和创作积累了宝贵经验。两汉以来，文坛上还出现了一些介乎正史与小说之间的野史杂记，如《吴越春秋》、《越绝书》等，它们既录史实，又收异闻，虚构成分增多，传说色彩更浓，很接近小说的文体特征。

总之，中国小说的起源与西方小说的起源不同，它是多源的，因为“小说”被视为街谈巷议，所以在上述各方面的共同影响下，真正的中国古典小说在秦汉以后方才应运而生并迅速发展起来。