少林功夫的歷史可以直接追溯到少林寺的創建。因為少林功夫信仰的原始形態——禪修，是少林寺的創始人——印度高僧普陀帶來的。少林寺創建於北魏太和十九年(公元495年)。印度高僧波斯陀經西域至北魏。因精通禪宗，被魏孝文帝所信，為波斯頓在少室山北麓建少林寺。後記中，陀將此法傳播給了厚僧、慧光、道方等壹代名僧。其中，和尚的禪定奇跡對少林功夫早期的信仰表達影響最大——神力信仰。公元508年，來自中國的高僧萊娜·莫蒂和北印度的高僧菩提·六枝先後來到少林寺，翻譯了《十經》，極大地促進了禪宗在北方的發展。在此期間，南印度高僧菩提達摩至少修行了禪定和苦行，佛法被稱為“大乘壁觀”。得道者包括惠科副僧和魚道。其中，惠科“斷臂求法”的故事成為學習少林功夫的重要精神來源。
少林功夫作為少林寺的武裝力量，出現於隋末唐初(七世紀初)。唐武德四年(公元621年)，少林寺譚總等十三名僧人，活捉王仁澤，攻取袁州城，投降李世民，大受賞賜。從那以後，少林寺因其武術而聞名。與少林寺武裝力量的形成相對應，緊那羅以觀音菩薩願為核心的王金剛信仰和少林功夫以打坐為核心的傳統神力信仰壹直流傳至今。
少林功夫的靈魂是禪宗的智慧。
少林功夫信仰的最初形式是冥想。達摩首次將禪宗教法引入少林寺，少林寺因此被譽為禪宗祖庭。禪宗充滿了東方智慧對人生的透徹理解，體現了中國高僧大德對宇宙奧秘和人生真諦的體驗和理解。由於禪宗教法的盛行和少林寺的祖庭地位，少林功夫的信仰內容和品質也發生了變化，“禪武合壹”成為少林功夫的主流思想，成為僧人修煉少林功夫的目標和理想境界。練少林功夫的主體是禪宗，他武功高強，處世透徹，心中無畏，表現出極大的智慧和勇氣。禪宗賦予了少林功夫更豐富的內容。
佛教僧侶的生活受到佛教戒律的約束。戒律體現了佛教“慈悲”的精髓，這種戒律約束也直接影響了少林功夫的技術風格。少林寺和尚習武只是為了防身，而不是為了進攻，所以少林功夫始終表現出中庸、謙和的特點，動作的特點是幅度小、含蓄、講求內功、短小精悍、身先士卒。