北宋末年，朝廷腐敗，對外出錢求和，對內任意搜刮。農民遭受重稅和剝削，導致流離失所。宣和元年，宋江等36人占領梁山泊，招募叛軍，聚眾起義。宣領兵攻下和碩(泛指黃河下遊的南北地區)和東路(治青州，今山東益都)，在青、齊(今山東濟南)和(今山東鄄城)之間轉戰，攻下十余縣市，懲治貪官，殺富濟貧，蓄勢待發。十二月初二，宋徽宗趙霽得知亳州的侯猛“赦降”，下旨招安，未果，便命亳州的曾霄雲引軍商議。宋江避開陣勢，從青州引兵南下，到了益州(今山東臨沂)，在那裏與官軍周旋了十余年。三年二月，攻占淮陽軍(今江蘇省睢寧西北古邳鎮東鎮)，再從沭陽(今江蘇省)乘船到達海州(今江蘇省連雲港西南海州鎮)。知府張叔夜派使者探聽起義軍方向，得知宋江率領十余艘巨船逼近海邊，於是多募敢死之士埋伏在城附近，並派輕兵誘戰海上。五月，宋江率眾登岸後，中了埋伏，船只被燒，退路被斷，兵敗被俘，起義被鎮壓。據史家考證，宋代惠宗宣和年間，確實有宋江率領的阿良山伯起義，但不像《水滸傳》裏寫的108將領，沒有那麽多生動、戲劇性的場面。
宋江起義的導火索是宋朝廷為了解決財政困難，宣布梁山泊整個八百裏水域“公有”，規定凡入湖捕魚、采藕、割香蒲的人，都要按船的大小繳納重稅。那些違反規章制度的人被當作小偷來處罰。貧窮的農民和漁民交不起重稅，長期以來對社會現實的不滿終於像火山壹樣爆發了。在宋江等人的帶領下，他們鋌而走險，荷槍實彈，憑借梁山泊易守難攻的地形，攔住前來鎮壓的官兵。宣和元年(公元1119)，這支農民隊伍正式宣布起義。
據史料記載，宋江起義軍主要領導人有36人。他們是宋江、晁蓋、吳用、盧俊義、關勝、史進、柴進、阮小二、阮小五、阮小七、劉唐、張青、燕青、孫立、張順、張衡、胡(水滸傳中的胡)、李俊、華容、秦明、李悝、雷橫、戴宗、李悝。由於史書沒有記載，宋江叛軍總數估計有近萬人。《水滸傳》寫的梁山好漢有108個，是小說家虛構的。作者有施耐庵和羅貫中等。“欲成其書，以三十六為天尊，加七十二人之名”，從而使小說更具傳奇色彩，以迎合民眾喜好，朗朗上口，易於傳播。但小說畢竟是小說，讀者不要把它當成真實的歷史。
宋江起義軍正式宣布起義後不久，便離開梁山公園，轉戰山東、青海、河南、河北。據史書記載，這支義軍“橫行和碩、東京，官兵數萬，無人敢阻。”大約兩年後，宣和三年(1121)二月，宋姜怡俊從江蘇沭陽乘船進攻海州(今連雲港)，被海州知府張叔夜派出的伏兵包圍，損失慘重，切斷了退路。在這種絕境中，宋江不得不帶領眾人投降，接受朝廷的恩寵，成為宋朝忠臣的壹部分。後來宋江部是否去江南為方臘農民起義軍作戰，史學界壹直爭論不休，至今尚無定論。但大多數歷史學家認為，宋江的部隊去方臘的可能性更大。
宋朝是中國歷史上農民起義次數最多的朝代。壹百多年來，宋三發生過數百次農民起義，宋江起義只是規模和影響較小的壹次。但到了南宋時期，出版了《宣和遺事》，對宋江起義的歷史進行了浪漫化和故事化的講述。明初又出現了《水滸傳》，把宋江起義的故事描寫得更加生動感人，從而使這場原本規模不大、影響不大的農民起義產生了巨大的影響，在民間廣為流傳，甚至家喻戶曉。