后验概率可以大于1吗？

用贝叶斯公式：

P (x | a) = \frac{P (a | x) P (x)}{P (a)}

$P(x|a) = \frac{P(a|x) P(x)}{P(a)}$

后验概率 $P(x|a)$ 超过1？

我认为，例如，假设 $0 < P(a) < 1$ 且 $P(a) < P(x) < 1$ 且 $P(a)/P(x) < P(a|x) < 1$ 。但是我对此不确定，因为概率大于1意味着什么？

probability bayesian conditional-probability

— 托马斯·摩尔
source

在定义符号时应该精确。目前尚不清楚

代表什么。如果

是（a）概率分布（在这种情况下设置

和

）或（b）是离散空间上的质量函数，则您已经拥有的答案基本上是正确的。如果

被理解为是一个密度函数，那么它是不正确的，

。挑剔的原因是所有三种类型的函数都满足贝叶斯规则。符号

P (\cdot)

$P(\cdot)$

P (\cdot)

$P(\cdot)$

a

$a$

x

$x$

P (\cdot)

$P(\cdot)$

P (x ∣ a) \leq 1

$P(x \mid a) \le 1$

通常用于分布，但对参数使用小写字母表示密度。

P (\cdot)

$P(\cdot)$

— 家伙

因此后验概率不能超过

。（后验密度是另一回事-许多连续分布的某些值的密度超过

）

P (x ∣ a) = \frac{P (x, a)}{P (a)} \leq \frac{P (a)}{P (a)} = 1

$P(x\mid a) = \frac{P(x,a) }{P(a)} \le \frac{P(a) }{P(a)} =1$

1

$1$

1

$1$

— 亨利

如果计算的后验值超过1，则您在某个地方犯了错误。

— 埃米尔·弗里德曼

@EmilMFriedman，您的回答是模棱两可的（因此，它可能有害），因为它没有表明它是指“计算的后验” 概率还是密度。

— ub

概率上的统一障碍可以而且已经被打破。请参阅我的文章ATstats.stackexchange.com/questions/4220/…。

— 马克·L·斯通

Answers:

假定条件不成立- 根据条件概率的定义，永远不可能是真的： $P(a)/P(x) < P(a|x)$

$P(a|x) = P(a\cap x) / P(x) \leq P(a) / P(x)$

— 霍尔
source

不，后验概率不可能超过一。 这将违反概率论的规范公理。使用条件概率规则，您必须具有：

P (a | x) = \frac{P (a, x)}{P (x)} ⩽ \frac{P (a)}{P (x)} .

$\mathbb{P}(a | x) = \frac{\mathbb{P}(a,x)}{\mathbb{P}(x)} \leqslant \frac{\mathbb{P}(a)}{\mathbb{P}(x)}.$

这意味着您不能拥有指定的不等式条件。（顺便说一句，这是一个很好的问题：很好地探索寻找问题的概率定律。这表明您比大多数学生都更加严格地探索这些问题。）

还有一点：关于这种情况，有必要再提出一点，那就是关于概率的不同特征的逻辑优先级。请记住，概率论是从一组公理开始的，这些公理描述了概率度量实际上是什么。从这些公理中，我们可以得出“概率规则”，即从公理中得出的定理。这些概率规则必须与公理一致才能有效。如果您发现概率规则导致与其中一个公理矛盾（例如，样本空间的概率大于1），则这不会伪造公理- 它将伪造概率规则。因此，即使是这种情况，贝叶斯规则也可以导致后验概率大于1（不是），这并不意味着您的后验概率可以大于1。这仅表示贝叶斯规则不是有效的概率规则。

— 恢复莫妮卡
source

最终分子应为P（x）吗？

— BallpointBen

仍为我显示P（a）

— BallpointBen

分子中应该是P（a）。不等式表明OP不能像他在问题中指定的那样具有P（a | x）> P（a）/ P（x）。

— 恢复莫妮卡

$\displaystyle P(B \mid A) = \frac{P(A\mid B)P(B)}{P(A)}$ $P(B\mid A)$ $1$ $P(A)$

P (A) = P (A ∣ B) P (B) + P (A ∣ B^{c}) P (B^{c})

$P(A) = P(A\mid B)P(B) + P(A\mid B^c)P(B^c)$ giving that

P (B ∣ A) = \frac{P (A ∣ B) P (B)}{P (A)} = \frac{P (A ∣ B) P (B)}{P (A ∣ B) P (B) + P (A ∣ B^{c}) P (B^{c})}

$P(B \mid A) = \frac{P(A\mid B)P(B)}{P(A)} = \frac{P(A\mid B)P(B)}{P(A\mid B)P(B) + P(A\mid B^c)P(B^c)}$ which shows that the numerator is just one of the terms in the sum in the denominator, and so the fraction cannot exceed

1

$1$ in value.

— Dilip Sarwate
source

+1 this is the easiest proof to me.

— Mehrdad

@Mehrdad Thanks. The other answers essentially prove that a conditional probability

P (B ∣ A)

$P(B\mid A)$ cannot exceed

1

$1$ via the result that

P (A ∣ B) P (B) = P \A \cap B)

$P(A\mid B)P(B) = P\A\cap B)$ cannot exceed

P (A)

$P(A)$ because

A \cap B \subset A

$A\cap B \subset A$ and so it must be that

P \A \cap B) \leq P (A)

$P\A\cap B) \leq P(A)$ , and have little relationship per se to Bayes' formula (as it is used in statistics to derive posterior probabilities from prior probabilities).

— Dilip Sarwate