为什么后验密度与先验密度乘以似然函数成比例？

11

根据贝叶斯定理，。但是根据我的计量经济学文本，它说。为什么会这样呢？我不明白为什么被忽略。 $P(y|\theta)P(\theta) = P(\theta|y)P(y)$ $P(\theta|y) \propto P(y|\theta)P(\theta)$ $P(y)$

bayesian conditional-probability likelihood

— 贝叶斯问题
source

1

请注意，这并不是说两者相等，而是成比例的（取决于一个因素，即）

1 / P (y)

$1/P(y)$

— jpmuc 2013年

4

P (y)

$P(y)$ 不会被忽略，而是被视为一个常数，因为它是针对当前问题而固定的数据的函数。如果其中是一个常数（表示不依赖于），那么我们可以写成，这仅表示是一个（未指定的）常数。请注意，和的极值出现在相同的位置，因此可以从找到最大后验概率（MAP或MAPP）估计值无需知道（或计算）。

y

$y$

A (x) = c B (x)

$A(x) = cB(x)$

c

$c$

x

$x$

A (x) \propto B (x)

$A(x) \propto B(x)$

\frac{A (x)}{B (x)}

$\frac{A(x)}{B(x)}$

A (x)

$A(x)$

B (x)

$B(x)$

P (y ∣ θ) P (θ)

$P(y\mid\theta)P(\theta)$

P (y)

$P(y)$

— Dilip Sarwate

14

，的边际概率，不是“忽略”。它只是恒定的。通过将具有“重定标”的效果的计算，以作为正确的概率，即在一个被测量的时间间隔。如果没有这种缩放，它们仍然是完全有效的相对措施，但不限于的时间间隔。 $Pr(y)$ $y$ $Pr(y)$ $Pr(y|\theta)P(\theta)$ $[0,1]$ $[0,1]$

经常“遗漏”，因为往往难以评估，并且它通常是方便够间接地进行集成通过模拟。 $Pr(y)$ $Pr(y)=\int Pr(y|\theta)Pr(\theta)d\theta$

— Sycorax说恢复莫妮卡
source

11

注意

P (θ | y) = \frac{P (θ, y)}{P (y)} = \frac{P (y | θ) P (θ)}{P (y)} .

$P(\theta | y) = \frac{P(\theta, y)}{P(y)} = \frac{P(y | \theta) P(\theta)}{P(y)}.$

由于您对计算的密度感兴趣，因此可以任何不依赖于此参数的函数-例如。这给你 $\theta$ $P(y)$

P (θ | y) \propto P (y | θ) P (θ) .

$P(\theta | y) \propto P(y | \theta) P(\theta).$

丢弃是现在密度失去了一些性质，例如在域上积分为1 。这没什么大不了的，因为通常人们对集成似然函数不感兴趣，而是对它们进行最大化。而且，当您最大化一个函数时，将此函数乘以某个常数（请记住，在贝叶斯方法中，数据是固定的），不会更改对应于最大点的。它确实改变了价值 $P(y)$ $P(\theta | y)$ $\theta$ $y$ $\theta$ 但是，话又说回来，通常人们会对每个的相对位置感兴趣。 $\theta$

— 沃尔迪尔·莱昂西奥
source