樸素貝葉斯分類器算法是最受歡迎的學習方法之壹，按照相似性分類，用流行的貝葉斯概率定理來建立機器學習模型，特別是用於疾病預測和文檔分類。 它是基於貝葉斯概率定理的單詞的內容的主觀分析的簡單分類。
什麽時候使用機器學習算法 - 樸素貝葉斯分類器？
（1）如果您有壹個中等或大的訓練數據集。
（2）如果實例具有幾個屬性。
（3）給定分類參數，描述實例的屬性應該是條件獨立的。
A．樸素貝葉斯分類器的應用
（1）情緒分析 - 用於Facebook分析表示積極或消極情緒的狀態更新。
（2）文檔分類 - Google使用文檔分類來索引文檔並查找相關性分數，即PageRank。 PageRank機制考慮在使用文檔分類技術解析和分類的數據庫中標記為重要的頁面。
（3）樸素貝葉斯算法也用於分類關於技術，娛樂，體育，政治等的新聞文章。
（4）電子郵件垃圾郵件過濾 - Google Mail使用Na?veBayes算法將您的電子郵件歸類為垃圾郵件或非垃圾郵件。
B．樸素貝葉斯分類器機器學習算法的優點
（1）當輸入變量是分類時，樸素貝葉斯分類器算法執行得很好。
（2）當樸素貝葉斯條件獨立假設成立時，樸素貝葉斯分類器收斂更快，需要相對較少的訓練數據，而不像其他判別模型，如邏輯回歸。
（3）使用樸素貝葉斯分類器算法，更容易預測測試數據集的類。 多等級預測的好賭註。
（4）雖然它需要條件獨立假設，但是樸素貝葉斯分類器在各種應用領域都表現出良好的性能。
Python中的數據科學庫實現Na?veBayes - Sci-Kit學習
數據科學圖書館在R實施樸素貝葉斯 - e1071
3.2 K均值聚類算法
K-means是用於聚類分析的普遍使用的無監督機器學習算法。 K-Means是壹種非確定性和叠代的方法。 該算法通過預定數量的簇k對給定數據集進行操作。 K Means算法的輸出是具有在簇之間分割的輸入數據的k個簇。
例如，讓我們考慮維基百科搜索結果的K均值聚類。 維基百科上的搜索詞“Jaguar”將返回包含Jaguar這個詞的所有頁面，它可以將Jaguar稱為Car，Jaguar稱為Mac OS版本，Jaguar作為動物。 K均值聚類算法可以應用於對描述類似概念的網頁進行分組。 因此，算法將把所有談論捷豹的網頁作為壹個動物分組到壹個集群，將捷豹作為壹個汽車分組到另壹個集群，等等。
A．使用K-means聚類機學習算法的優點
（1）在球狀簇的情況下，K-Means產生比層級聚類更緊密的簇。
（2）給定壹個較小的K值，K-Means聚類計算比大量變量的層次聚類更快。
B．K-Means聚類的應用
K Means Clustering算法被大多數搜索引擎（如Yahoo，Google）用於通過相似性對網頁進行聚類，並識別搜索結果的“相關率”。 這有助於搜索引擎減少用戶的計算時間。
Python中的數據科學庫實現K均值聚類 - SciPy，Sci-Kit學習，Python包裝
數據科學庫中的R實現K均值聚類 - 統計
3.3 支持向量機學習算法
支持向量機是壹種分類或回歸問題的監督機器學習算法，其中數據集教導關於類的SVM，以便SVM可以對任何新數據進行分類。 它通過找到將訓練數據集分成類的線（超平面）將數據分類到不同的類中來工作。 由於存在許多這樣的線性超平面，SVM算法嘗試最大化所涉及的各種類之間的距離，並且這被稱為邊際最大化。 如果識別出最大化類之間的距離的線，則增加對未看見數據良好推廣的概率。
A．SVM分為兩類：
線性SVM - 在線性SVM中，訓練數據，即分類器由超平面分離。
非線性SVM在非線性SVM中，不可能使用超平面來分離訓練數據。 例如，用於面部檢測的訓練數據由作為面部的壹組圖像和不是面部的另壹組圖像（換句話說，除了面部之外的所有其他圖像）組成。 在這種條件下，訓練數據太復雜，不可能找到每個特征向量的表示。 將面的集合與非面的集線性分離是復雜的任務。
B．使用SVM的優點
（1）SVM對訓練數據提供最佳分類性能（精度）。
（2）SVM為未來數據的正確分類提供了更高的效率。
（3）SVM的最好的事情是它不對數據做任何強有力的假設。
（4）它不會過度擬合數據。
C．支持向量機的應用
（1）SVM通常用於各種金融機構的股票市場預測。 例如，它可以用來比較股票相對於同壹行業中其他股票的表現的相對表現。 股票的相對比較有助於管理基於由SVM學習算法做出的分類的投資決策。
（2）Python中的數據科學庫實現支持向量機-SciKit學習，PyML，SVMStruct Python，LIBSVM
（3）R中的數據科學庫實現支持向量機 - klar，e1071
3.4 Apriori機器學習算法
Apriori算法是無監督機器學習算法，其從給定數據集生成關聯規則。 關聯規則意味著如果項目A出現，則項目B也以壹定概率出現。 生成的大多數關聯規則采用IF_THEN格式。 例如，如果人們買了壹個iPad，他們還買了壹個iPad保護套。 為了得到這樣的結論的算法，它首先觀察購買iPad的人購買iPad的人數。 這樣壹來，比例就像100個購買iPad的人壹樣，85個人還購買了壹個iPad案例。
A．Apriori機器學習算法的基本原理：
如果項集合頻繁出現，則項集合的所有子集也頻繁出現。
如果項集合不經常出現，則項集合的所有超集都不經常出現。
B．先驗算法的優點
（1）它易於實現並且可以容易地並行化。
（2）Apriori實現使用大項目集屬性。
C.Apriori算法應用
檢測不良藥物反應
Apriori算法用於關於醫療數據的關聯分析，例如患者服用的藥物，每個患者的特征，不良的不良反應患者體驗，初始診斷等。該分析產生關聯規則，其幫助識別患者特征和藥物的組合 導致藥物的不良副作用。
市場籃子分析
許多電子商務巨頭如亞馬遜使用Apriori來繪制數據洞察，哪些產品可能是壹起購買，哪些是最響應促銷。 例如，零售商可能使用Apriori預測購買糖和面粉的人很可能購買雞蛋來烘烤蛋糕。
自動完成應用程序
Google自動完成是Apriori的另壹個流行的應用程序，其中 - 當用戶鍵入單詞時，搜索引擎尋找人們通常在特定單詞之後鍵入的其他相關聯的單詞。
Python中的數據科學庫實現Apriori機器學習算法 - 在PyPi中有壹個python實現Apriori
數據科學庫在R中實現Apriori機器學習算法 – arules
3.5 線性回歸機器學習算法
線性回歸算法顯示了2個變量之間的關系，以及壹個變量中的變化如何影響另壹個變量。 該算法顯示了在改變自變量時對因變量的影響。 自變量被稱為解釋變量，因為它們解釋了因變量對因變量的影響。 依賴變量通常被稱為感興趣的因子或預測因子。
A．線性回歸機器學習算法的優點
（1）它是最可解釋的機器學習算法之壹，使得它很容易解釋給別人。
（2）它易於使用，因為它需要最小的調諧。
（3）它是最廣泛使用的機器學習技術運行快。
B．線性回歸算法應用
估計銷售額
線性回歸在業務中有很大的用途，基於趨勢的銷售預測。如果公司每月的銷售額穩步增長 - 對月度銷售數據的線性回歸分析有助於公司預測未來幾個月的銷售額。
風險評估
線性回歸有助於評估涉及保險或金融領域的風險。健康保險公司可以對每個客戶的索賠數量與年齡進行線性回歸分析。這種分析有助於保險公司發現，老年顧客傾向於提出更多的保險索賠。這樣的分析結果在重要的商業決策中起著至關重要的作用，並且是為了解決風險。
Python中的數據科學庫實現線性回歸 - statsmodel和SciKit
R中的數據科學庫實現線性回歸 - 統計
3.6 決策樹機器學習算法
妳正在制作壹個周末計劃，去訪問最好的餐館在城裏，因為妳的父母訪問，但妳是猶豫的決定在哪家餐廳選擇。每當妳想去壹家餐館，妳問妳的朋友提利昂如果他認為妳會喜歡壹個特定的地方。為了回答妳的問題，提利昂首先要找出，妳喜歡的那種餐館。妳給他壹個妳去過的餐館列表，告訴他妳是否喜歡每個餐廳（給出壹個標記的訓練數據集）。當妳問提利昂妳是否想要壹個特定的餐廳R，他問妳各種問題，如“是”R“屋頂餐廳？”，“餐廳”R“服務意大利菜嗎？”，現場音樂？“，”餐廳R是否營業至午夜？“等等。提利昂要求您提供幾個信息問題，以最大限度地提高信息收益，並根據您對問卷的答案給予YES或NO回答。這裏Tyrion是妳最喜歡的餐廳偏好的決策樹。
決策樹是壹種圖形表示，其使用分支方法來基於某些條件來例示決策的所有可能的結果。在決策樹中，內部節點表示對屬性的測試，樹的每個分支表示測試的結果，葉節點表示特定類標簽，即在計算所有屬性之後作出的決定。分類規則通過從根到葉節點的路徑來表示。
A．決策樹的類型
（1）分類樹 - 這些被視為用於基於響應變量將數據集分成不同類的默認種類的決策樹。 這些通常在響應變量本質上是分類時使用。
（2）回歸樹 - 當響應或目標變量是連續或數字時，使用回歸樹。 與分類相比，這些通常用於預測類型的問題。
根據目標變量的類型 - 連續變量決策樹和二進制變量決策樹，決策樹也可以分為兩種類型。 它是有助於決定對於特定問題需要什麽樣的決策樹的目標變量。
B．為什麽選擇決策樹算法？
（1）這些機器學習算法有助於在不確定性下作出決策，並幫助您改善溝通，因為他們提供了決策情況的可視化表示。
（2）決策樹機器學習算法幫助數據科學家捕獲這樣的想法：如果采取了不同的決策，那麽情境或模型的操作性質將如何劇烈變化。
（3）決策樹算法通過允許數據科學家遍歷前向和後向計算路徑來幫助做出最佳決策。
C．何時使用決策樹機器學習算法
（1）決策樹對錯誤是魯棒的，並且如果訓練數據包含錯誤，則決策樹算法將最適合於解決這樣的問題。
（2）決策樹最適合於實例由屬性值對表示的問題。
（3）如果訓練數據具有缺失值，則可以使用決策樹，因為它們可以通過查看其他列中的數據來很好地處理丟失的值。
（4）當目標函數具有離散輸出值時，決策樹是最適合的。
D.決策樹的優點
（1）決策樹是非常本能的，可以向任何人輕松解釋。來自非技術背景的人，也可以解釋從決策樹繪制的假設，因為他們是不言自明的。
（2）當使用決策樹機器學習算法時，數據類型不是約束，因為它們可以處理分類和數值變量。
（3）決策樹機器學習算法不需要對數據中的線性進行任何假設，因此可以在參數非線性相關的情況下使用。這些機器學習算法不對分類器結構和空間分布做出任何假設。
（4）這些算法在數據探索中是有用的。決策樹隱式執行特征選擇，這在預測分析中非常重要。當決策樹適合於訓練數據集時，在其上分割決策樹的頂部的節點被認為是給定數據集內的重要變量，並且默認情況下完成特征選擇。
（5）決策樹有助於節省數據準備時間，因為它們對缺失值和異常值不敏感。缺少值不會阻止您拆分構建決策樹的數據。離群值也不會影響決策樹，因為基於分裂範圍內的壹些樣本而不是準確的絕對值發生數據分裂。
E.決策樹的缺點
（1）樹中決策的數量越多，任何預期結果的準確性越小。
（2）決策樹機器學習算法的主要缺點是結果可能基於預期。當實時做出決策時，收益和產生的結果可能與預期或計劃不同。有機會，這可能導致不現實的決策樹導致錯誤的決策。任何不合理的期望可能導致決策樹分析中的重大錯誤和缺陷，因為並不總是可能計劃從決策可能產生的所有可能性。
（3）決策樹不適合連續變量，並導致不穩定性和分類高原。
（4）與其他決策模型相比，決策樹很容易使用，但是創建包含幾個分支的大決策樹是壹個復雜和耗時的任務。
（5）決策樹機器學習算法壹次只考慮壹個屬性，並且可能不是最適合於決策空間中的實際數據。
（6）具有多個分支的大尺寸決策樹是不可理解的，並且造成若幹呈現困難。
F.決策樹機器學習算法的應用
（1）決策樹是流行的機器學習算法之壹，它在財務中對期權定價有很大的用處。
（2）遙感是基於決策樹的模式識別的應用領域。
（3）銀行使用決策樹算法按貸款申請人違約付款的概率對其進行分類。
（4）Gerber產品公司，壹個流行的嬰兒產品公司，使用決策樹機器學習算法來決定他們是否應繼續使用塑料PVC（聚氯乙烯）在他們的產品。
（5）Rush大學醫學中心開發了壹個名為Guardian的工具，它使用決策樹機器學習算法來識別有風險的患者和疾病趨勢。
Python語言中的數據科學庫實現決策樹機器學習算法是 - SciPy和Sci-Kit學習。
R語言中的數據科學庫實現決策樹機器學習算法是插入符號。
3.7 隨機森林機器學習算法
讓我們繼續我們在決策樹中使用的同樣的例子，來解釋隨機森林機器學習算法如何工作。提利昂是您的餐廳偏好的決策樹。然而，提利昂作為壹個人並不總是準確地推廣妳的餐廳偏好。要獲得更準確的餐廳推薦，妳問壹對夫婦的朋友，並決定訪問餐廳R，如果大多數人說妳會喜歡它。而不是只是問Tyrion，妳想問問Jon Snow，Sandor，Bronn和Bran誰投票決定妳是否喜歡餐廳R或不。這意味著您已經構建了決策樹的合奏分類器 - 也稱為森林。
妳不想讓所有的朋友給妳相同的答案 - 所以妳提供每個朋友略有不同的數據。妳也不確定妳的餐廳偏好，是在壹個困境。妳告訴提利昂妳喜歡開頂屋頂餐廳，但也許，只是因為它是在夏天，當妳訪問的餐廳，妳可能已經喜歡它。在寒冷的冬天，妳可能不是餐廳的粉絲。因此，所有的朋友不應該利用妳喜歡打開的屋頂餐廳的數據點，以提出他們的建議您的餐廳偏好。
通過為您的朋友提供略微不同的餐廳偏好數據，您可以讓您的朋友在不同時間向您詢問不同的問題。在這種情況下，只是稍微改變妳的餐廳偏好，妳是註入隨機性在模型級別（不同於決策樹情況下的數據級別的隨機性）。您的朋友群現在形成了您的餐廳偏好的隨機森林。
隨機森林是壹種機器學習算法，它使用裝袋方法來創建壹堆隨機數據子集的決策樹。模型在數據集的隨機樣本上進行多次訓練，以從隨機森林算法中獲得良好的預測性能。在該整體學習方法中，將隨機森林中所有決策樹的輸出結合起來進行最終預測。隨機森林算法的最終預測通過輪詢每個決策樹的結果或者僅僅通過使用在決策樹中出現最多次的預測來導出。
例如，在上面的例子 - 如果5個朋友決定妳會喜歡餐廳R，但只有2個朋友決定妳不會喜歡的餐廳，然後最後的預測是，妳會喜歡餐廳R多數總是勝利。
A.為什麽使用隨機森林機器學習算法？
（1）有很多好的開源，在Python和R中可用的算法的自由實現。
（2）它在缺少數據時保持準確性，並且還能抵抗異常值。
（3）簡單的使用作為基本的隨機森林算法可以實現只用幾行代碼。
（4）隨機森林機器學習算法幫助數據科學家節省數據準備時間，因為它們不需要任何輸入準備，並且能夠處理數字，二進制和分類特征，而無需縮放，變換或修改。
（5）隱式特征選擇，因為它給出了什麽變量在分類中是重要的估計。
B.使用隨機森林機器學習算法的優點
（1）與決策樹機器學習算法不同，過擬合對隨機森林不是壹個問題。沒有必要修剪隨機森林。
（2）這些算法很快，但不是在所有情況下。隨機森林算法當在具有100個變量的數據集的800MHz機器上運行時，並且50,000個案例在11分鐘內產生100個決策樹。
（3）隨機森林是用於各種分類和回歸任務的最有效和通用的機器學習算法之壹，因為它們對噪聲更加魯棒。
（4）很難建立壹個壞的隨機森林。在隨機森林機器學習算法的實現中，容易確定使用哪些參數，因為它們對用於運行算法的參數不敏感。壹個人可以輕松地建立壹個體面的模型沒有太多的調整
（5）隨機森林機器學習算法可以並行生長。
（6）此算法在大型數據庫上高效運行。
（7）具有較高的分類精度。
C.使用隨機森林機器學習算法的缺點
他們可能很容易使用，但從理論上分析它們是很困難的。
隨機森林中大量的決策樹可以減慢算法進行實時預測。
如果數據由具有不同級別數量的分類變量組成，則算法會偏好具有更多級別的那些屬性。 在這種情況下，可變重要性分數似乎不可靠。
當使用RandomForest算法進行回歸任務時，它不會超出訓練數據中響應值的範圍。
D.隨機森林機器學習算法的應用
（1）隨機森林算法被銀行用來預測貸款申請人是否可能是高風險。
（2）它們用於汽車工業中以預測機械部件的故障或故障。
（3）這些算法用於醫療保健行業以預測患者是否可能發展成慢性疾病。
（4）它們還可用於回歸任務，如預測社交媒體份額和績效分數的平均數。
（5）最近，該算法也已經被用於預測語音識別軟件中的模式並對圖像和文本進行分類。
Python語言中的數據科學庫實現隨機森林機器學習算法是Sci-Kit學習。
R語言的數據科學庫實現隨機森林機器學習算法randomForest。