以下摘录自《博尔斯塔德的贝叶斯统计概论》。
对于所有在那里的专家来说,这可能是微不足道的,但是我不明白作者是如何得出结论的,我们不必进行任何积分就可以计算出某个值的后验概率。我理解第二个表达式,它是比例关系以及所有条件的来源(似然x Prior)。而且,我知道,我们不必担心分母,因为只有分子是直接成比例的。但是,继续讲第三个方程式,我们是否就忘记了贝叶斯规则的分母?去哪了?而且由Gamma函数计算的值不是常数吗?常数不会在贝叶斯定理中抵消吗?
以下摘录自《博尔斯塔德的贝叶斯统计概论》。
对于所有在那里的专家来说,这可能是微不足道的,但是我不明白作者是如何得出结论的,我们不必进行任何积分就可以计算出某个值的后验概率。我理解第二个表达式,它是比例关系以及所有条件的来源(似然x Prior)。而且,我知道,我们不必担心分母,因为只有分子是直接成比例的。但是,继续讲第三个方程式,我们是否就忘记了贝叶斯规则的分母?去哪了?而且由Gamma函数计算的值不是常数吗?常数不会在贝叶斯定理中抵消吗?
Answers:
您具有以下模型: 的密度是 并特别注意 f(p)=1
现在。后验分布与先验乘以似然成正比。我们可以忽略常量(即不是东西),得到: 克p ħ (p
它具有参数和的beta分布的“形状” ,我们知道具有这些参数的beta分布的对应归一化常数应该是:。或者,就伽马函数而言, 换句话说,我们可以做得比比例关系好一点,而无需任何额外的工作,而是直接求等式: β + ñ - X 1 /乙(α + X ,β + ñ - X )1ħ(p
因此,人们可以利用β分布的结构知识来轻松地恢复后验表达式,而不用经历一些混乱的整合等。
它通过隐式取消关节分布的归一化常数来绕过整个后验,这可能会造成混淆。
您也可以按程序将事情磨平,这可能会更清楚。
实际上,时间不再那么长。请注意,我们可以将关节分布表示为 和的边际分布为 X∫ 1个0 ˚F(p)克(X
因此,我们可以使用贝叶斯定理通过 ,这与我们之前得到的相同。
为了使@Björn给出的答案更加明确,同时又更加笼统,我们应该记住,我们从贝叶斯定理得出
(Bayes Thereom)
其中代表观察到的数据,我们未知的参数,我们想对这个参数进行概率推断-在问题的情况下,该参数是未知频率。现在我们不必担心是为了简单起见而正在讨论向量或标量。
连续情况下的边际化导致
如前所述这里的联合分布等于。这是一个常数,因为在“积分”参数之后,它仅取决于常数项。
因此我们可以将贝叶斯定理重新表示为
与
因此到达通常比例形式的贝叶斯定理。
现在,我们可以简单地插入我们所知道的,因为问题案例中的的形式为
其中,,其中从二项式似然和beta中收集常数项先验。
现在,我们可以使用@Björn给出的答案来发现它与常数项的集合乘以Beta函数 。
注意,联合分布中的任何常数项都将被抵消,因为它会同时出现在分母和分母中(参见@jtobin给出的答案),因此我们真的不必费心。
因此,我们认识到我们的后验分布实际上是一个beta分布,在这里我们可以简单地更新先验参数 和来得出后验。这就是为什么beta分布先验称为共轭先验的原因。b ' = b + n - y