在我看来,Cox-Jaynes对概率的解释为贝叶斯概率提供了严格的基础:
- Cox,RichardT。“概率,频率和合理预期”。美国物理学杂志14.1(1946):1-13。
- Jaynes,EdwinT。概率论:科学逻辑。剑桥大学出版社,2003年。
- Beck,James L.“基于概率逻辑的贝叶斯系统识别”。结构控制与健康监测17.7(2010):825-847。
Cox推导的概率逻辑公理是:
- (P1): (按惯例)Pr [ b | 一个] ≥ 0
- (P2):镨[ b¯¯| a]=1−Pr[b | a](取反函数)
- (P3):(连接函数)镨[ b ∩ C ^ | a ] = Pr [ c | b ∩ 一个] 镨[ b | a ]
公理P1-P3表示以下内容(Beck,James L.“基于概率逻辑的贝叶斯系统识别。”结构控制和健康监控17.7(2010):825-847):
- (P4):a);b);c)镨[ ‾ b | b ∩ Ç ] = 0 镨[ b | Ç ] ∈ [ 0 ,1 ]Pr [ b | b ∩ c ^ ] = 1镨[ b¯¯| b∩Ç]=0Pr [ b | Ç ] ∈ [ 0 ,1 ]
- (P5):a),b),其中表示包含在,表示等于。Pr [ a | Ç ∩ (一个⇒ b )] ≤ 镨[ b | Ç ∩ (一个⇒ b )]一个⇒ b 一个Ç 一个⇔ b 一个bPr [ a | Ç ∩ (一个⇔ b )] = 镨[ b | Ç ∩ (一个⇔ b )]一个⇒ b一种C一个⇔ b一种b
- (P6):PR [ 一∪ b | c ] = Pr [ a | c ] + Pr [ b | Ç ] - 镨[ 一个∩ b | ç ]
- (P7):假设命题指出命题只有一个是真实的,则:
b 1,… ,b NCb1个,… ,bñ
- a)边际定理:Pr [ a | c ] = ∑ñn = 1P[ 一个∩ bñ| ç]
- b)总概率定理:Pr [ a | c ] = ∑ñn = 1Pr [ a | bñ∩ Ç ] 镨[ bñ| ç]
- c)贝叶斯定理:对于:Pr [ b k | 一个∩ Ç ] = 镨[ 一个| b ķ ∩ Ç ] 镨[ b ķ | ç ]k = 1 ,… ,N镨[ bķ| 一个∩Ç]=镨[ 一个| bķ∩ Ç ] 镨[ bķ| ç]∑ñn = 1Pr [ a | bñ∩ Ç ] 镨[ bñ| ç]
它们暗示着科尔摩哥罗夫的逻辑声明,可以将其视为特例。
在我对贝叶斯观点的解释中,一切总是(隐含地)以我们的信念和我们的知识为条件。
以下比较来自Beck(2010):基于概率逻辑的贝叶斯系统识别
贝叶斯观点
概率是基于特定信息的陈述合理性的度量。
- 概率分布表示关于系统和现象的合理知识的状态,而不是它们的固有属性。
- 模型的概率是相对于集合中其他模型的可信度的度量。
- 务实地量化了由于缺少信息而导致的不确定性,而没有声称这是由于自然固有的随机性。
频率论者的观点
从长远来看,概率是发生固有随机事件的相对频率。
- 概率分布是随机现象的固有属性。
- 范围有限,例如对模型的概率没有意义。
- 假定固有随机性,但无法证明。
如何从上面的公理导出Kolmogorov的公理
在下面的[贝克,詹姆斯·L。“基于概率逻辑的贝叶斯系统识别”的第2.2节中。结构控制与健康监测17.7(2010):825-847。]总结如下:
下面我们使用:有限集子集上的概率测度:甲XPR (一)AX
- [K1]:Pr(A)≥0,∀A⊂X
- [K2]:Pr(X)=1
- [K3]:如果和不相交,则甲乙Pr(A∪B)=Pr(A)+Pr(B),∀A,B⊂XAB
为了从概率论公理中推导(K1-K3),[Beck,2010]引入了propositon,它中陈述并指定的概率模型。[Beck,2010]进一步介绍了。X ∈ X X 镨(甲)= 镨[ X ∈ 甲| π ]πx∈XxPr(A)=Pr[x∈A|π]
- P1表示K1,其中和C ^ = πb={x∈A}c=π
- K2从;P4(a)和表示。π X ∈ XPr[x∈X|π]=1πx∈X
- K3可以从P6派生:和不相交意味着和是互斥的。因此,K3:乙X ∈ 甲X ∈ 乙镨(X ∈ 甲∪ 乙| π )= 镨(X ∈ 甲| π )+ 镨(X ∈ 乙| π )ABx∈Ax∈B Pr(x∈A∪B|π)=Pr(x∈A|π)+Pr(x∈B|π)