英國學者托馬斯·貝葉斯在《論機會的解決》中提出了壹種歸納推理理論，後來被壹些統計學家發展成為壹種系統的統計推斷方法，稱為貝葉斯方法。用這種方法進行統計推斷得到的所有結果都構成了貝葉斯統計的內容。認為貝葉斯方法是唯壹合理的統計推斷方法的統計學家形成了數理統計的貝葉斯學派，這可以追溯到20世紀30年代。到20世紀五六十年代，它已經發展成為壹個有影響力的學校。如今，它的影響力正在擴大。
中文名Bayes Statistics mbth Bayes Statistics提出者托馬斯·貝葉斯提出時間1763並翻譯賈乃光。
目錄
1的技術原理
先驗分布
後驗分布
2理論爭議
3發展歷史
技術原理編輯器
先驗分布
它是總體分布參數θ的概率分布。貝葉斯學派的根本觀點是，在任何關於θ的統計推斷問題中，除了樣本X提供的信息外，還必須為θ指定壹個先驗分布，這是推斷中不可缺少的因素。貝葉斯學派將先驗分布解釋為采樣前關於θ的先驗信息的概率表達式。先驗分布不必具有客觀基礎，而是可以部分或完全基於主觀信念。
比如，壹個嫌疑人得了A病，看病時醫生給他測了體溫、血壓等指標，結果構成樣本x .引入參數θ:生病時θ= 1；無疾病時，θ=0。X的分布取決於θ是0還是1，所以知道X有助於推斷θ是不是1。按照傳統(頻率)派，醫生診斷時只使用X提供的信息；貝葉斯學派認為，只有將0到1之間的壹個數p指定為事件的先驗概率{θ=1}，才能推斷出A是否有病(即θ是否為1)。數字p描述了這個問題的先驗分布，可以解釋為疾病a的發生率，先驗分布的規則對推斷結果有影響。例如，在這種情況下，如果疾病A的發生率很小，只有當樣本X顯示出有力的證據時，醫生才會傾向於診斷疾病A。先驗分布的使用在這裏看似合理，但貝葉斯學派基於“P是發生率”的解釋並沒有使用。事實上，即使我們對這種疾病的發病率壹無所知，我們也必須規定這樣壹個P，否則問題無法解決。
後驗分布
根據樣本X的分布Pθ和θ的先驗分布π (θ)，在已知X=x的條件下，通過概率論中求條件概率分布的方法，可以計算出θ的條件分布π(θ|x)。因為這個分布是抽樣後得到的，所以叫做後驗分布。貝葉斯學派認為這種分布綜合了樣本X和先驗分布π (θ)提供的相關信息。抽樣的全部目的是完成從先驗分布到後驗分布的轉換。舉個例子，如果p=P(θ=1)=0.001，π(θ=1|x)=0.86，貝葉斯學派的解釋是:在A的指數未測出之前，他患病的概率設定為0.001，而在得到之後，計算後驗分布的公式本質上就是概率論中著名的貝葉斯公式(見概率)，這是前面提到的貝葉斯1763那篇文章的重要內容。
貝葉斯推斷方法的關鍵是任何推斷都必須基於後驗分布π(θ│X)，不能再涉及X的樣本分布Pθ。
比如在奈曼-皮爾遜理論中(見假設檢驗)，為了確定α水平檢驗的臨界值c，必須考慮X的分布Pθ，這在貝葉斯推斷中是不允許的。但是貝葉斯推理在如何使用π(θ│X)上有壹定的靈活性。例如，對於θ的點估計，可以使用關於θ的後驗分布密度h(θ|X)的最大點，也可以使用π(θ|X)的均值或中值(見概率分布)。為了估計θ的區間，我們可以取區間[A(X)，B(X)]使得π(A(X)≤θ≤B(X)│X)等於數字1-α(0 <；α& lt；1)，在此條件下，區間長度B(X)-A(X)最小。要檢驗假設H:θ∈ω關於θ，我們可以計算ω的後驗概率π(ω|X)，然後計算後驗概率π (ω │ x)<在1/2拒絕H。如果是統計決策問題(見統計決策理論)，有壹定的損失函數L(θ，α)。知道了π(θ|X)，我們就可以計算出每個動作α的後驗風險，即L(θ，α)在後驗分布π(θ|X)下的數學期望，然後選擇動作α使這個期望最小，這就是貝葉斯統計中的“後驗風險”。
理論爭議編輯
貝葉斯學派和頻率學派爭論的焦點在於先驗分布的問題。所謂頻率學派，是指統計學家堅持概率的頻率解釋而形成的學派。貝葉斯學派認為先驗分布可以是主觀的，它沒有頻率解釋，也不需要。但是，頻率學派認為，只有當先驗分布具有主觀意義，並且可以根據適當的理論或過去的經驗來確定時，才允許在統計推斷中使用先驗分布，否則就會失去客觀性。另壹個批評是，貝葉斯方法對任何統計問題給出了程式化的解決方案，導致人們機械地套用公式，而不是深入分析問題。貝葉斯學派認為:理論上可以證明，在壹定條件下，任何合理的優良準則壹定是對應於某種先驗分布的貝葉斯準則，所以每個統計學家都是自覺不自覺的“貝葉斯”。他們認為，頻率學派表面上不使用先驗分布，但得到的解仍然是某種先驗分布下的貝葉斯解，這種潛在的先驗分布可能比精心選擇的主觀先驗分布更不合理。其次，貝葉斯學派也認為，貝葉斯方法對統計推斷和決策問題給出了程式化的解決方案是優點，而不是缺點，因為它消除了求抽樣分布的數學難題(見統計學)。而且，這種程式化的解決方案不是機械的公式，它需要人們在先驗分布和損失函數的選擇上做大量的工作。另外，貝葉斯學派認為貝葉斯方法得到的解不需要頻率解釋，所以即使使用壹次也是有意義的。另壹方面，根據概率的頻率解釋提供的解只有在大量使用時才有意義，這往往不符合實際應用。這兩個學派之間的爭論是戰後數理統計發展的壹個特點。這個爭論遠沒有解決，而且對以後數理統計的發展有影響。
開發歷史編輯器
貝葉斯統計的歷史可以追溯到16世紀。在1713中，詹姆斯·伯努利意識到了可以在機會遊戲中使用的演繹邏輯與日常生活中的歸納邏輯之間的區別，他提出了壹個著名的問題:前者的機制如何幫助處理下面的推理？Thomas Bayes(1702-1761)是長老會牧師。他對這個問題非常感興趣，並進行了認真的研究。在此期間，他寫了壹篇文章回答伯努利的問題，並提出了壹個以他的名字命名的公式:貝葉斯公式。然而，直到貝氏去世，他的朋友理查德·普萊斯才在1763發表了這篇文章，為伯努利問題提供了答案。這篇文章標誌著貝葉斯統計的出現。然而，貝葉斯統計的思想在壹開始並沒有受到重視。後來，拉普拉斯本人重新發現了貝葉斯公式，並且闡述得比貝葉斯更清楚。由於貝葉斯統計對概率的看法過於主觀，與當時的主流統計觀點相悖，很難用當時嚴謹的數學理論來解釋。
比如貝葉斯統計中先驗概率的觀點，壹直是貝葉斯統計學派和非貝葉斯統計學派爭論的焦點之壹。在歷史上，貝葉斯統計長期被當時的主流數學家所排斥。例如，現代傑出的統計學家R. A. Fisher就是貝葉斯統計的反對者。但隨著科學的進步，貝葉斯統計在實際應用中的成功，逐漸改變了人們的看法。貝葉斯統計越來越受到人們的重視，已經成為統計學的壹個研究熱點。
自貝葉斯撰寫的回答詹姆斯·伯努利問題的論文，提出著名的貝葉斯統計思想以來，經過幾百年的發展，已經出現了許多關於貝葉斯統計的論文和學術專著。貝葉斯統計的權威著作是詹姆斯·o·伯傑的著作:《統計分析與貝葉斯分析》。國內有壹本中譯本:統計決策理論與貝葉斯分析，賈乃光譯，吳希之譯，中國統計出版社出版。