決策樹方法最早產生於20世紀60年代，到了70年代末。ID3算法由J Ross Quinlan提出，旨在降低樹的深度。但是對葉片數量的研究卻被忽視了。算法C4.5是在ID3算法的基礎上改進的，在預測變量缺失值的處理、剪枝技巧、求導規則等方面做了很大的改進，既適用於分類問題，也適用於回歸問題。
決策樹算法通過構造決策樹來發現數據中包含的分類規則。如何構造精度高、規模小的決策樹是決策樹算法的核心內容。決策樹的構建可以分兩步進行。第壹步是決策樹的生成:從訓練樣本集生成決策樹的過程。壹般來說，訓練樣本數據集是壹個歷史的、綜合的數據集，用於根據實際需要進行數據分析和處理。第二步:決策樹的剪枝:決策樹的剪枝是對前壹階段生成的決策樹進行檢查、修正和修訂的過程，主要是利用新的樣本數據集(稱為測試數據集)中的數據來檢查決策樹生成過程中產生的初步規則，並剪掉那些影響預平衡準確性的分支。
問題2:數據挖掘分類方法決策樹可以分為很多類型。數據挖掘(Data mining)又稱數據庫中的知識發現(knowledge discovery)，是從海量數據中智能地、自動地提取壹些有用的、可信的、有效的、可理解的模式的過程。分類是數據挖掘的重要內容之壹。目前，分類已經廣泛應用於許多領域，如醫療診斷、天氣預報、信用確認、客戶區分和欺詐篩查等。分類方法有很多種。
1，決策樹分類的直觀表示方法可以很容易地轉換成標準的數據庫查詢。
2.決策樹分類歸納的方法是有效的，尤其適用於大數據集。
3.在分類過程中，除了數據集中已經包含的信息，決策樹不需要任何額外的信息。
4.決策樹分類模型具有較高的準確率。首先，研究了分類模型的評價方法。在此基礎上，重點研究了決策樹分類方法，並詳細分析了決策樹算法的可擴展性。最後，給出了基於OLE DB的決策樹分類預測應用程序。
問題3:基於規則的分類器(比如RIPPER算法)和決策樹有什麽區別，使用場景有什麽不同？決策樹實際上是壹個規則分類器。基於轉換的錯誤驅動學習方法的提出者在他的論文中論證了這個問題。他的學習方法是規則學習器，但相當於決策樹。
問題4:決策樹的優缺點是什麽？決策樹是在知道各種情況發生的概率的基礎上，計算凈現值的期望值大於等於零的概率，評估項目風險，判斷其可行性的決策分析方法。它是壹種直觀使用概率分析的圖解法。
決策樹的優點和缺點:
優勢:
1)可以生成可理解的規則。
2)計算量比較小。
3)可以處理連續和各種文字穿帶。
4)決策樹可以清楚地顯示哪些字段更重要。
缺點:
1)連續字段很難預測。
2)對於有時間序列的數據，需要做大量的預處理工作。
3)類別太多時，誤差可能增加得更快。
4)使用壹般算法進行分類時，只是按照壹個領域進行分類。
問題c4.5決策樹算法如何得到分類結果？決策樹主要有ID3、C4.5、CART等形式。ID3選擇信息增益的屬性進行遞歸分類，C4.5改進為使用信息增益率選擇分類屬性。CART是分類和回歸樹的縮寫。說明CART不僅可以分類，還可以回歸。
問題6:決策樹分類算法的應用領域不應該泛化到經濟、社會、醫學領域，而應該具體到實際問題。以及用什麽軟件實現更方便。決策樹算法主要用於數據挖掘和機器學習。數據挖掘就是從海量數據中找出規律。壹個著名的例子是啤酒和尿布的例子，這是典型的數據挖掘。決策樹算法有ID3，C4.5，CART等。各種算法都是利用海量數據生成決策樹，可以幫助人或者機器做決策。最簡單的例子就是妳去看醫生。根據決策樹，醫生可以判斷是什麽病。軟件可以用VISUAL STUDIO，C語言，C++，C#和java都可以。
問題7:貝葉斯網絡與貝葉斯分類算法的區別貝葉斯分類算法是壹種統計分類方法，是壹種利用概率和統計知識進行分類的算法。在很多場合，樸素貝葉斯(Na？Ve Bayes (NB)分類算法可以與決策樹和神經網絡分類算法相比較。該算法適用於大型數據庫，方法簡單，分類精度高，速度快。
貝葉斯定理假設壹個屬性值對給定類別的影響獨立於其他屬性的值，但在實際情況下往往不成立，因此其分類精度可能下降。因此，許多貝葉斯分類算法，如TAN(tree augmented Bayes network)算法，被用來減少獨立性假設。