於是，阮小五找到了正在釣魚的阮小五和他的兄弟阮小二、阮小七。後來阮小五和吳用、晁蓋、劉唐、阮小二、阮、公孫勝、白勝壹起設計成功，使得護送金銀熊的楊誌不省人事，伺機搶奪生辰綱。後來有八個人因為白勝的告白計劃被政府追殺。幸虧宋江，朱仝，雷橫，連夜逃出。阮氏三兄弟逃跑時，消滅了香港官兵，投奔梁山。
八個人上梁山的時候，山寨主王倫怕晁蓋勢力和能力太大，讓他們下山去別處避難。吳用了壹招，讓林沖殺了王倫，他們幫晁蓋坐上了山寨主的位置，而王倫自己坐了第八把交椅。上山後，官兵們又追著人群跑。阮小五和他的兩個兄弟帶領濟州官兵來到梁山水道的壹艘火船上，燒毀了敵船，幫助梁山好漢打敗了官兵。阮小五在山上安頓下來後，立下了不少功勞，包括在青州官兵攻打梁山時，幫助壹批水軍將領抓住了敵人的淩鎮，最終成為聚義第二十九任盟主。
阮小五被拉攏後，隨梁山好漢招降方臘，壹路立下汗馬功勞。上壹次大戰中，他和李俊等水軍首領扮成擺渡人，帶著梁山好漢進城，在宋軍內外放火燒城，幫助宋軍攻破清溪，活捉方臘。阮小五和童威壹起駐紮在梁山東北的水鄉。宋江平定方臘後，隨他而下，阮小五在混戰中被丞相樓殺死。