山口組由山口春樹於1915年在神戶市與其他約50名碼頭裝卸工壹起創立。截至2009年底，註冊成員超過5.5萬人，約占日本黑社會組織成員總數的45%，分支機構多達850個，遍布日本各地。
事實上，山口組和政府機構壹樣，有許多不同層次的管理層。團夥頭目掌權，手下有幾個小弟、幹部、若頭，形成金字塔結構。此外，每個地區都有領袖、副手、顧問和許多普通教會。其求助規則包括:不得泄露求助事務；任何幫派都不允許互相殘殺；不私劫；沒有違反規定；不允許引入土匪；不要調戲同組的女性；不準撿灰、倒空籠子；不準私分商品；不要不服從調度；壹旦入夥，就離不開了。
山口組的主要收入來源是毒品走私，其次是賭博和敲詐勒索，但該組織也涉足演藝、房地產和娛樂業。高倉健並不是唯壹與山口組關系密切的藝術家。
山口組可以在日本公開活動。教父由民主選舉產生，並通過新聞發布會公之於眾。其經濟實力已經非常可觀。2005年3月，其上市房地產銷售公司淩河集團的銷售額高達430億日元。據估計，山口組的年收入超過6543.8+000億美元，其中35%來自毒品，20%是合法投資的合法收入。