贝叶斯主义者接受科尔摩哥罗夫的公理吗?


24

通常,概率论是用Kolgomorov的公理教授的。贝叶斯人也接受科尔摩哥罗夫的公理吗?


8
贝叶斯理论遵循概率的标准公理,因此遵循科尔摩哥罗夫公理。
西安

3
@西安:可以用概率来表示主观信念的程度并不那么明显-因此,问题是拉姆齐和德芬内蒂的作品。
Scortchi-恢复莫妮卡

2
这就是为什么我是“目标”贝叶斯并从根据概率论标准定义的先验分布开始的原因
西安

2
我相信Cox-Jaynes对概率的解释为贝叶斯概率提供了严格的基础。(请参阅我的回答)。但是,对此有西安的意见会很好。
2014年

1
@Summit:谢谢,但是我对这个问题不是很感兴趣...!
西安

Answers:


25

在我看来,Cox-Jaynes对概率的解释为贝叶斯概率提供了严格的基础:

  • Cox,RichardT。“概率,频率和合理预期”。美国物理学杂志14.1(1946):1-13。
  • Jaynes,EdwinT。概率论:科学逻辑。剑桥大学出版社,2003年。
  • Beck,James L.“基于概率逻辑的贝叶斯系统识别”。结构控制与健康监测17.7(2010):825-847。

Cox推导的概率逻辑公理是:

  1. (P1): (按惯例)Pr[b|a]0
  2. (P2):Pr[b¯|a]=1Pr[b|a](取反函数)
  3. (P3):(连接函数)Pr[bc|a]=Pr[c|ba]Pr[b|a]

公理P1-P3表示以下内容(Beck,James L.“基于概率逻辑的贝叶斯系统识别。”结构控制和健康监控17.7(2010):825-847):

  1. (P4):a);b);c)[ ‾ b | b Ç ] = 0 [ b | Ç ] [ 0 1 ]Pr[b|bc]=1Pr[b¯|bc]=0Pr[b|c][0,1]
  2. (P5):a),b),其中表示包含在,表示等于。Pr[a|c(ab)]Pr[b|c(ab)]一个b 一个Ç 一个b 一个bPr[a|c(ab)]=Pr[b|c(ab)]abacabab
  3. (P6):Pr[ab|c]=Pr[a|c]+Pr[b|c]Pr[ab|c]
  4. (P7):假设命题指出命题只有一个是真实的,则: b 1b Ncb1,,bN
    • a)边际定理:Pr[a|c]=n=1NP[abn|c]
    • b)总概率定理:Pr[a|c]=n=1NPr[a|bnc]Pr[bn|c]
    • c)贝叶斯定理:对于:Pr [ b k | 一个Ç ] = [ 一个| b ķÇ ] [ b ķ | ç ]k=1,,NPr[bk|ac]=Pr[a|bkc]Pr[bk|c]n=1NPr[a|bnc]Pr[bn|c]

它们暗示着科尔摩哥罗夫的逻辑声明,可以将其视为特例。

在我对贝叶斯观点的解释中,一切总是(隐含地)以我们的信念和我们的知识为条件。

以下比较来自Beck(2010):基于概率逻辑的贝叶斯系统识别

贝叶斯观点

概率是基于特定信息的陈述合理性的度量。

  1. 概率分布表示关于系统和现象的合理知识的状态,而不是它们的固有属性。
  2. 模型的概率是相对于集合中其他模型的可信度的度量。
  3. 务实地量化了由于缺少信息而导致的不确定性,而没有声称这是由于自然固有的随机性。

频率论者的观点

长远来看,概率是发生固有随机事件的相对频率。

  1. 概率分布是随机现象的固有属性。
  2. 范围有限,例如对模型的概率没有意义。
  3. 假定固有随机性,但无法证明。

如何从上面的公理导出Kolmogorov的公理

在下面的[贝克,詹姆斯·L。“基于概率逻辑的贝叶斯系统识别”的第2.2节中。结构控制与健康监测17.7(2010):825-847。]总结如下:

下面我们使用:有限集子集上的概率测度:XPr(A)AX

  1. [K1]:Pr(A)0,AX
  2. [K2]:Pr(X)=1
  3. [K3]:如果和不相交,则Pr(AB)=Pr(A)+Pr(B),A,BXAB

为了从概率论公理中推导(K1-K3),[Beck,2010]引入了propositon,它中陈述并指定的概率模型。[Beck,2010]进一步介绍了。X X X = [ X | π ]πxXxPr(A)=Pr[xA|π]

  • P1表示K1,其中和C ^ = πb={xA}c=π
  • K2从;P4(a)和表示。π X XPr[xX|π]=1πxX
  • K3可以从P6派生:和不相交意味着和是互斥的。因此,K3:X X X | π = X | π + X | π ABxAxB Pr(xAB|π)=Pr(xA|π)+Pr(xB|π)

5
从K3可以到达(有限可加性),但不能到达Kolmogorov的第三公理当是 -field的元素而不是简单的子集时,(可加性)有限集 PR= 1=Σ= 1 PRσPr(i=1nAi)=i=1nPr(Ai)Pr(i=1Ai)=i=1Pr(Ai)Aσ
Scortchi-恢复莫妮卡

2
@Scortchi KRKoch在介绍贝叶斯统计时引述了贝纳多和史密斯(1994),贝叶斯理论,p。105,作为显示如何解决可数无穷大的来源。我没有检查它,但作为参考也可以在这里给出。
gwr

12

在概率论发展之后,有必要证明,较宽泛的概念以“概率”的名称回答,符合他们所启发的严格定义的概念。Ramsey和de Finetti考虑了“主观的”贝叶斯概率,他们独立地表明了信念程度的量化受可比性和连贯性的约束(如果没有人能为您撰写荷兰语书籍,您的信念就是连贯的)是一个概率。

公理化之间的差异在很大程度上取决于品味问题,即应定义什么和衍生什么。但是可数的加性是柯尔莫哥洛夫(Kolmogorov)的一种,它不是从考克斯(Cox)或菲内蒂(Finetti)衍生而来,并且一直存在争议。一些贝叶斯主义者(例如de Finetti和Savage)在有限可加性上停下来,因此接受所有Kolmogorov的公理。他们可以将均匀的概率分布分布在无限的间隔上而没有不当之处。其他人也跟随Villegas假设单调连续性,并由此获得可数的加性。

拉姆齐(1926),《真理与概率》,拉姆齐(1931),《数学基础和其他逻辑随笔》

de Finetti(1931),“ Sulsignificato soggettivo dellaprobabilità”,FundamentaMathematicæ17,第298 – 329页

Villegas(1964),“论定性概率代数”,安。数学。统计员。35,4σ


3
为什么我的答案只涉及“客观贝叶斯”概率?考克斯(Cox,1946)的开创性著作明确地解决了主观性问题!这是非常有趣的-易于阅读的论文。我认为区分“主观”和“客观”贝叶斯概率是没有道理的:一切总是隐含地取决于进行分析的人->在这方面,“主观”。
2014年

关于Kolmogorov从Cox得出的公理的推论:我对Beck,James L. 2.2节中的方法“基于概率逻辑的贝叶斯系统辨识”感到满意。结构控制与健康监测17.7(2010):825-847。
2014年

1
@峰会:(1)你是对的;拉姆齐和德芬内蒂(Ramsey&de Finetti)对概率的性格观点更确切地说是将它们直接置于“主观”阵营中,而考克斯则更为普遍。(2)您是说可以从考克斯的假设中得出可数的加性吗?
Scortchi-恢复莫妮卡

我扩大了答案,期待您的评论。
首脑会议

1
@Summit:谢谢-我希望找到时间使我的工作透彻一半。我已经指出了从Cox定理到“完全”的Kolmogorov公理之间的距离,并认为它与这个问题特别相关(尽管我第一次回答时就完全忘记了这个问题)。Jaynes对此BTW有一些有趣的事情要说。
Scortchi-恢复莫妮卡
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.