更新贝叶斯因子


9

在贝叶斯假设检验和贝叶斯模型选择中,贝叶斯因子是通过两个边际可能性的比率来定义的:给定iid样本以及各自的采样密度和,具有相应的先验和,用于比较两个模型的贝叶斯因子为 一,我目前正在审查有奇怪的声明,上面的贝叶斯因子(x1,,xn)f1(x|θ)f2(x|η)π1π2

B12(x1,,xn)=defm1(x1,,xn)m2(x1,,xn)=defi=1nf1(xi|θ)π1(dθ)i=1nf2(xi|η)π2(dη)
B12(x1,,xn)是“通过将各个[贝叶斯因子]相乘而形成的”(第118页)。如果使用分解 但我看不到此分解的计算优势,因为需要与的原始计算相同的计算量
B12(x1,,xn)=m1(x1,,xn)m2(x1,,xn)=m1(xn|x1,,xn1)m2(xn|x1,,xn1)×m1(xn1|xn2,,x1)m2(xn1|xn2,,x1)××m1(x1)m2(x1)
m1(xn|x1,,xn1)m2(xn|x1,,xn1)
m1(x1,,xn)m2(x1,,xn)
外面的人造玩具的例子。

问题:是否存在将Bayes因子从B12(x1,,xn)B12(x1,,xn+1)的通用且计算有效的方法{n + 1})不需要重新计算整个边际m1(x1,,xn)m2(x1,,xn)

我的直觉是,除了粒子滤波器实际上确实是在估计贝叶斯因子B12(x1,,xn)中进行一次,没有一个自然的方法可以回答这个问题。


1
在我看来,措词不一定意味着必须进行顺序分解,因为观察结果很简单。在研究生期间,一位教授提到该乘积意味着人们可以使用渐近近似进行贝叶斯分析,但是奇怪的是,这种乘积并没有流行(讽刺)。也许这本书可能暗示了这一点?
Cliff AB

@CliffAB:是的,您可以将似然值重写为单个项的平均值,收敛到与真实分布的Kullback-Leibler距离。但我认为情况并非如此,即使书不够清晰,无法打开所有选项。
西安

1
我认为第二个显示的方程式中有一个错别字:第二行的第二个因子应该是吗?m1(xn1|xn1,,x1)
jochen 2016年

Answers:


4

大概,当您已经计算了数据点的贝叶斯因子,并且希望能够用一个附加数据点更新贝叶斯因子时,贝叶斯因子的递归方程式的目的。只要知道后验函数的形式,似乎确实可以在不重新计算先前数据向量的边际的情况下执行此操作。假设我们知道此函数的形式(并假设您的问题中假设IID数据),则预测密度可以写为:nπn

m(xn+1|x1,...,xn)=Θf(xn+1|θ)πn(dθ|x1,...,xn).

因此,您有:

m(x1,...,xn+1)=m(x1,...,xn)Θf(xn+1|θ)πn(dθ|x1,...,xn).

通过贝叶斯因子比较两个模型类,然后得到递归方程:

B12(x1,...,xn+1)=B12(x1,...,xn)Θ1f(xn+1|θ)π1,n(dθ|x1,...,xn)Θ2f(xn+1|θ)π2,n(dθ|x1,...,xn).

这仍然涉及参数范围内的积分,因此我同意您的观点,即仅通过给定的初始公式重新计算贝叶斯因子,似乎没有任何计算优势。但是,您可以看到这不需要您重新计算先前数据向量的边际。(相反,我们在每个模型类下都以先前数据为条件来计算新数据点的预测密度。)像您一样,我并没有真正看到此方法的任何计算优势,除非这种积分公式很容易简化。无论如何,我想它为您提供了另一个更新贝叶斯因子的公式。


谢谢。的确,严格地讲,不需要重新计算边际,但是正如您所说,计算量似乎是相同的。
西安

n
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.