贝叶斯定理直觉


22

我一直在尝试根据先验后验似然边际概率对贝叶斯定理进行基于直觉的理解。为此,我使用以下等式: 其中代表假设或信念,代表数据或证据。 我已经了解了后验的概念-它是一个结合了先验信念和事件可能性的统一实体。我不明白的是什么呢的可能性,意味着什么?为什么边际 AB

P|一种=P一种|PP一种
一种
分母中的概率?
在回顾了一些资源之后,我发现了这句话:

似然性是事件的重量通过的发生给定 ...是后验事件的概率,假定事件已经发生。A P B | A B A一种P|一种一种

以上2句话对我来说似乎是相同的,只是写法不同。谁能解释一下两者之间的区别?


4
您有错别字(或误解)。应该是您的表述中的“假设或信念”,而应该是“数据或证据”。一种
gung-恢复莫妮卡

1
请参阅math.stackexchange.com/a/1943255/1505上的答案,这就是我最终对它的直观理解
Lyndon White

Answers:


27

尽管在贝叶斯定律中列出了四个组成部分,但我更喜欢从三个概念性组成部分来考虑:

P|一种2=P一种|P一种3P1个
  1. 之前是你认为什么之前已经遇到了新的相关资料片(即)。 一种
  2. 是你相信(或喽,如果你是理性的)大约后,已经遇到了新的相关资料片。
  3. 可能性的商除以新资料片的边缘概率索引信息量的你对信仰的新的信息。

19

已经有几个好的答案,但是也许这可以添加一些新的东西...

我总是从组件概率的角度来考虑贝叶斯规则,可以从事件B的角度从几何上理解贝叶斯规则,如下图所示。AB

活动集

边缘概率 P 由相应的圆的面积给出。所有可能的结果,分别由P = 1,对应于设定的事件“的 ”。所述联合概率P 对应于所述事件“ ”。P(APP一种=1个一种 P一种一种

在此框架中,贝叶斯定理中的条件概率可以理解为面积比。的概率给出是的分数占用由,表示为 P | = P 一种一种 同样,概率给予是的分数占用由,即 P|=P

P一种|=P一种P
一种一种一种
P|一种=P一种P一种

贝叶斯定理是真正的上述定义的只是一个数学推论,它可以重新表述为 我觉得这个对称贝叶斯定理的形式更容易记住。即,无论哪个p A p B 被标记为“先验”还是“后验” ,身份始终保持不变。

P|一种P一种=P一种=P一种|P
p一种p

(从更“会计电子表格”的角度,我对这个问题的回答中给出了另一种理解上述讨论的方式。)


9

@gung有一个很好的答案。我将添加一个示例来说明真实示例中的“初始化”。

H一种Ë

所以公式是

PH|Ë=PË|HPHPË

注意相同的公式可以写成

PH|ËPË|HPH

PË|HPHPËË

H{01个}

1个1000PH=1个=0.001PH=0=0.999

PH|Ë

Ë{01个}

PË=1个|H=0PË=1个|H=1个

Ë=1个


PH=00.999PH=1个=0.001

1

请注意,贝叶斯的规则是

P一种|b=Pb一种Pb=Pb一种PbP一种P一种

注意比例

Pb一种PbP一种

一种Pb一种=PbP一种

有趣的是,此比率的对数也存在于相互信息中:

一世一种|=一种bP一种b日志Pb一种PbP一种


0

P一种

可能性=行比例后验=列比例

类似地定义了先验和边际,但是基于“总计”而不是特定列

边际=行总比例优先=列总比例

我发现这对我有帮助。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.