为什么贝叶斯推断中的后验分布常常很棘手？

我有一个问题，为什么贝叶斯推理会导致棘手的问题。该问题通常是这样解释的：

我不明白的是为什么必须首先评估此积分：在我看来，积分的结果只是一个归一化常数（如给出数据集D所示）。为什么不能简单地将后验分布计算为右侧的分子，然后通过要求后验分布上的积分必须为1来推断此归一化常数呢？

我想念什么？

谢谢！

bayesian inference

— 阿尼
source

可能与谁有关：这个问题是直接针对的，因为它与统计有关。

— Sycorax说恢复莫妮卡

摘录写得不好。要知道，

是不是得到后验分布; 它是数据的无条件概率（即与theta无关）。因为对于同一数据集考虑的所有模型，

都相同，所以不一定需要计算它。如果不这样做，则只需将等号更改为“与...成比例”（

）。

P (D)

$P(\mathcal D)$

P (D)

$P(\mathcal D)$

\propto

$\propto$

— gung-恢复莫妮卡

我假设幻灯片是由其他人撰写的，您能提供该幻灯片的参考吗？

— 2013年

计算

的要求仅在比较模型时才真正出现（有时称为证据）。当考虑单个模型时，分子“足以”定义后验。但是，如果要计算后验期望或分位数之类的点估计量，很快就会发现您还需要分母。

p (D)

$p(\mathcal{D})$

— 2013年

我们目前正在举办一个关于标准化常数的研讨会，您可能会找到一些有趣的条目来回答这个问题。

— 2013年

Answers:

为什么不能简单地将后验分布计算为右侧的分子，然后通过要求后验分布上的积分必须为1来推断此归一化常数呢？

这正是正在做的事情。后验分布为

P （ θ | d ） = \frac{p （ d | θ ） P （ θ ）}{P （ d ）} 。

$P(\theta|D) = \dfrac{p(D|\theta) \, P(\theta)}{P(D)}.$

$P(D|\theta)P(\theta)$ $\theta$ $c$

\begin{aligned} \int_{θ} C P （ d | θ ） P （ θ ） d θ = 1 \\ \Rightarrow & \int_{θ} C P （ d ， θ ） d θ = 1 \\ \Rightarrow & C P （ d ） = 1 \\ \Rightarrow & C = \frac{1}{P （ d ）} 。 \end{aligned}

$\begin{align*} &\int_{\theta} cP(D|\theta) \, P(\theta)\, d\theta = 1\\ \Rightarrow & \int_{\theta} cP(D, \theta) \, d\theta = 1\\ \Rightarrow & cP(D) = 1\\ \Rightarrow& c = \dfrac{1}{P(D)}. \end{align*}$

$P(D)$

— 格林帕克
source

θ

$\theta$

我有同样的问题。这个好帖子很好地解释了它。

简而言之。这很棘手，因为分母必须评估ALL的所有可能值的概率；在最有趣的情况下，ALL的数量很大。分子是realization的单个实现。

参见等式。帖子中的4-8。链接的屏幕截图：

— 阿拉瓦
source