后验概率可以大于1吗?


18

用贝叶斯公式:

P(x|a)=P(a|x)P(x)P(a)

后验概率P(x|a)超过1?

我认为,例如,假设0<P(a)<1P(a)<P(x)<1P(a)/P(x)<P(a|x)<1。但是我对此不确定,因为概率大于1意味着什么?


6
在定义符号时应该精确。目前尚不清楚代表什么。如果P 是(a)概率分布(在这种情况下设置ax)或(b)是离散空间上的质量函数,则您已经拥有的答案基本上是正确的。如果P 被理解为是一个密度函数,那么它是不正确的,P X | 1。挑剔的原因是所有三种类型的函数都满足贝叶斯规则。符号P P()P()axP()P(xa)1通常用于分布,但对参数使用小写字母表示密度。P()
家伙

2
因此后验概率不能超过1。(后验密度是另一回事-许多连续分布的某些值的密度超过1P(xa)=P(x,a)P(a)P(a)P(a)=111
亨利

如果计算的后验值超过1,则您在某个地方犯了错误。
埃米尔·弗里德曼

2
@EmilMFriedman,您的回答是模棱两可的(因此,它可能有害),因为它没有表明它是指“计算的后验” 概率还是密度。
ub

概率上的统一障碍可以而且已经被打破。请参阅我的文章ATstats.stackexchange.com/questions/4220/…
马克·L·斯通

Answers:


8

假定条件不成立- 根据条件概率的定义,永远不可能是真的:P(a)/P(x)<P(a|x)

P(a|x)=P(ax)/P(x)P(a)/P(x)


28

不,后验概率不可能超过一。 这将违反概率论的规范公理。使用条件概率规则,您必须具有:

P(a|x)=P(a,x)P(x)P(a)P(x).

这意味着您不能拥有指定的不等式条件。(顺便说一句,这是一个很好的问题:很好地探索寻找问题的概率定律。这表明您比大多数学生都更加严格地探索这些问题。)

还有一点:关于这种情况,有必要再提出一点,那就是关于概率的不同特征的逻辑优先级。请记住,概率论是从一组公理开始的,这些公理描述了概率度量实际上是什么。从这些公理中,我们可以得出“概率规则”,即从公理中得出的定理。这些概率规则必须与公理一致才能有效。如果您发现概率规则导致与其中一个公理矛盾(例如,样本空间的概率大于1),则这不会伪造公理- 它将伪造概率规则。因此,即使是这种情况,贝叶斯规则也可以导致后验概率大于1(不是),这并不意味着您的后验概率可以大于1。这仅表示贝叶斯规则不是有效的概率规则。


1
最终分子应为P(x)吗?
BallpointBen

仍为我显示P(a)
BallpointBen

1
分子中应该是P(a)。不等式表明OP不能像他在问题中指定的那样具有P(a | x)> P(a)/ P(x)。
恢复莫妮卡

9

P(BA)=P(AB)P(B)P(A)P(BA)1P(A)

P(A)=P(AB)P(B)+P(ABc)P(Bc)
giving that
P(BA)=P(AB)P(B)P(A)=P(AB)P(B)P(AB)P(B)+P(ABc)P(Bc)
which shows that the numerator is just one of the terms in the sum in the denominator, and so the fraction cannot exceed 1 in value.

+1 this is the easiest proof to me.
Mehrdad

@Mehrdad Thanks. The other answers essentially prove that a conditional probability P(BA) cannot exceed 1 via the result that P(AB)P(B)=P\AB) cannot exceed P(A) because ABA and so it must be that P\AB)P(A), and have little relationship per se to Bayes' formula (as it is used in statistics to derive posterior probabilities from prior probabilities).
Dilip Sarwate
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.