關於"約法三章"這個典故，來源於這樣壹則故事。說的是秦二世三年，就是公元前207年，劉邦的大軍順利進入關中，駐紮在離鹹陽不遠的灞上。秦王子嬰壹看戰不成，守也使不得，只好向劉邦投降。秦始皇建立的強大的秦朝帝國就這樣滅亡了。
於是，劉邦大軍進入鹹陽城，將士們開始搶奪金銀財物。劉邦也深入宮中，但見各種珍奇古玩、金銀珠寶琳瑯滿目，又見美女如雲，劉邦頓時神魂顛倒，飄飄欲仙。他沒多想，就往胡亥的龍床上壹躺，閉目養起神來。
這時，劉邦手下的愛將樊噲突然闖了進來。樊噲壹進門就直言不諱地說："沛公是想取得天下呢，還是想當個富翁？這些奢華之物，正是秦朝滅亡的禍根。請速還軍灞上，切莫迷戀於此！"
劉邦壹聽，覺得樊噲之言不無道理，但他又確實舍不得離開。這時正好張良走了進來，勸道："秦如此無道，為天下人所痛恨，所以我們才起兵攻滅他。沛公剛入秦都，便想在宮中尋歡求樂，這豈不是重蹈秦轍嗎？我勸沛公切莫因為圖壹時快活而毀了大業！古人有言：良藥苦口利於病，忠言逆耳利於行。請沛公依從樊噲之言，從速離開這裏！"張良壹席話，令劉邦幡然省悟。劉邦當即下令兵士查封皇宮府庫，然後帶領眾將士返回灞上軍營中。
為了安民，劉邦遍召當地父老鄉親，公開宣布說："現與諸位父老約法三章：殺人者死，傷人及盜抵罪，其他秦時苛法全部廢除！凡官吏民眾，均不必驚慌。"隨後，劉邦派出使者，協同各地原來的秦吏，將這著名的"約法三章"通告各地，受到秦地民眾的歡迎，他們奔走相告。這壹正確決策，對日後劉邦稱王並建立漢王朝產生了巨大的影響。耶律楚材曾在《懷古壹百韻寄張敏之》詩中贊嘆道："約法三章日，恩垂四百基。"
劉邦因"約法三章"受到民眾的擁護，為他後來奪得天下打下了基礎。看來，這"法"大可治軍治國，小可規範個人行為。健全的法制，是國富兵強的重要保證。今天我們常說"國有國法，家有家規"，說的就是這個道理。