从MCMC样本计算边际可能性

这是一个反复出现的问题（请参阅本文，本文和文章），但是我有不同的看法。

假设我有一堆来自通用MCMC采样器的采样。对于每个样本，我知道对数似然和对数在先。如果有帮助，我也知道每个数据点的对数似然值\ log f（x_i | \ theta）（此信息对某些方法（例如WAIC和PSIS-LOO）有所帮助）。$\theta$$\log f(\textbf{x} | \theta)$$\log f(\theta)$$\log f(x_i | \theta)$

我想仅凭我拥有的样本以及可能的其他一些功能评估（但不重新运行即席 MCMC）来获得（粗略）边际可能性的估计。

首先，让我们清除表。众所周知，谐波估计器是有史以来最差的估计器。让我们继续前进。如果使用封闭形式的先验和后验进行Gibbs采样，则可以使用Chib方法。但是我不确定如何在这些情况之外进行概括。还有一些方法需要您修改采样过程（例如通过回火的后验者），但是我对此并不感兴趣。

我正在考虑的方法包括用参数（或非参数）形状g（\ theta）近似基础分布$g(\theta)$，然后将归一化常数$Z$视为一维优化问题（即，使某些误差最小的$Z$之间$Z g(\theta)$和$f(\textbf{x}|\theta) f(\theta)$评价对样品）。在最简单的情况下，假设后验近似为多元法线，我可以将g（\ theta）拟合$g(\theta)$为多元法线，并得到类似于拉普拉斯近似的东西（我可能想使用一些其他函数求值来细化位置模式）。但是，我可以将其用作$g(\theta)$更灵活的族，例如多元$t$分布的变体混合。

我知道只有在$Z g(\theta)$是f（\ textbf {x} | \ theta）f（\ theta）的合理近似值的情况下，此方法才有效$f(\textbf{x}|\theta) f(\theta)$，但是任何理由或谨慎的说法对于为什么这样做都是非常不明智的会吗 您会建议阅读吗？

完全非参数方法使用一些非参数族，例如高斯过程（GP），来近似$\log f(\textbf{x}|\theta) + \log f(\theta)$（或其一些其他非线性变换，例如（作为平方根）和贝叶斯正交，以隐式集成基础目标（请参见此处和此处）。这似乎是一种有趣的替代方法，但在精神上是类似的（另请注意，就我而言，全科医生会很笨拙）。

不幸的是，Chib和Jeliazkov（2001）的扩展很快变得代价高昂或变化很大，这就是为什么在Gibbs抽样案例之外扩展名很少的原因。

尽管有很多方法和方法可以解决归一化常数估计问题（如上周我们在沃里克大学举办的“ 估计常数”研讨会中进行的各种各样的演讲所示，那里有可用的幻灯片），但确实有一些解决方案可以利用直接输出MCMC。$\mathfrak{Z}$

1. 正如您提到的，Newton and Raftery（1994）的谐波均值估计器由于具有无限方差而几乎总是差强人意。但是，有一些方法可以通过在谐波均值使用有限支持目标来避免无限方差诅咒 是选择作为后部HPD区域的指标。这样可以通过消除谐波均值中的尾部来确保有限的方差。（有关详细信息，请参见我与Darren Wraith撰写的一篇论文以及有关由Jean-Michel Marin撰写的有关规范化常量的章节。）简而言之，该方法回收了MCMC输出

   $$\int \dfrac{\alpha(\theta)}{\pi(\theta)f(x|\theta)}\text{d}\pi(\theta|x)=\frac{1}{\mathfrak{Z}}$$ $\alpha$$\theta_1,\ldots,\theta_M$通过确定目标的（例如20％）最大值，并在以那些最大密度（HPD）模拟为中心的球的并集上创建作为均匀值和具有半径，意思是标准化常数的估计由下式给出 $\beta$$\pi(\theta)f(x|\theta)$$\alpha$$\theta^0_i$$\rho$$\mathfrak{Z}$ $$\hat{\mathfrak{Z}}^{-1}=\underbrace{\frac{1}{\beta M^2}\sum_{m=1}^M}_{\text{double sum over}\\\beta M\text{ ball centres }\theta_i^0\\\text{and $M$ simulations } \theta_m} \underbrace{\mathbb{I}_{(0,\rho)}(\min_i||\theta_m-\theta^0_i||)\{\pi(\theta_m)f(x|\theta_m)\}^{-1}\big/\overbrace{\pi^{d/2}\rho^d\Gamma(d/2+1)^{-1}}^{\text{volume of ball with radius $\rho$}}}_{\dfrac{\beta M\alpha(\theta_m)}{\pi(\theta_m)f(x|\theta_m)}}$$ 如果是的尺寸（校正适用于相交的球），并且足够小以至于球永不相交（意味着最多只有一个指示器在球不为零）。分母的解释是这是θ ρ α 中号2 β 中号$d$$\theta$$\rho$$\alpha M^2$$\beta M^2$项： ，其中每个术语集成到。 θ米ž- $$\frac{1}{\beta M}\sum_{i=1}^{\beta M} \underbrace{\frac{1}{M}\sum_{m=1}^M {\cal U}(\theta_i^0,\rho)(\theta_m)}_{\text{same as with $\min$}} \times \frac{1}{\pi(\theta_m)f(x|\theta_m)}$$ $\theta_m$${\mathfrak{Z}}^{-1}$

2. 另一种方法是将归一化常数转换为参数。这听起来像是统计上的异端，但Guttmann和Hyvärinen（2012）的论文使我相信了相反的观点。无需过多讨论，其中的巧妙想法是将观察到的对数似然 转换为联合对数似然 是具有强度函数的泊松点过程的对数似然 $\mathfrak{Z}$ Ñ Σ我= 1 [˚F（X我|θ）+ν]-ñ∫EXP[˚F（X|θ）+ν]dxexp{

   $$\sum_{i=1}^n f(x_i|\theta) - n \log \int \exp f(x|\theta) \text{d}x$$ $$\sum_{i=1}^n[f(x_i|\theta)+\nu]-n\int\exp[f(x|\theta)+\nu]\text{d}x$$ $$\exp\{ f(x|\theta) + \nu +\log n\}$$ 这是一种替代模型，因为原始的可能性不等于上述可能性。仅模式重合，ν中的条件模式提供归一化常数。实际上，上述泊松过程的可能性不可用，Guttmann和Hyvärinen（2012）通过逻辑回归提供了近似值。为了与您的问题更好地联系，Geyer的估计是一个MLE，因此可以解决最大化问题。
3. 关联的方法是Charlie Geyer的逻辑回归方法。基本概念是将来自已知目标的另一个样本添加到MCMC样本中，例如，您对，的最佳猜测，然后运行对数据后面的分布索引进行逻辑回归（对于，对于为0 ）。回归变量是两种密度的值，无论是否标准化。这恰好与Gelman和Meng（1997）的桥梁采样直接相关，后者还回收了来自不同目标的样本。和更高版本，例如Meng的MLE。$\pi(\theta|x)$$\pi(\theta|x)$$g(\theta)$$\pi(\theta|x)$$g(\theta)$
4. 强制运行特定的MCMC采样器的另一种方法是Skilling的嵌套采样。虽然我[和其他人]对方法的效率有所保留，它是在astrostatistics和宇宙学颇为流行，软件提供类似多重嵌套。
5. 最后一种[可能（即使并非总是可能）的解决方案]是在嵌入空假设的情况下利用贝叶斯因子的Savage-Dickey表示。如果空值写为关于感兴趣的参数，并且是模型参数的其余[讨厌]部分，则假定其先验形式为，则对于替代写的贝叶斯因子为 其中表示特定值的边缘后验密度$H_0: \theta=\theta_0$$\xi$$\pi_1(\theta)\pi_2(\xi)$$H_0$ πθ（θ0|X）θθ0ħ0：θ=θ0米0（X）=＆Integral;Ξ˚F（X|θ0，ξ）π2（ξ）d $$\mathfrak{B}_{01}(x)=\dfrac{\pi^\theta(\theta_0|x)}{\pi_1(\theta_0)}$$ $\pi^\theta(\theta_0|x)$$\theta$$\theta_0$。在情况下，空下的边际密度 可用在闭合形式，可以得出无约束模型的边际密度 来自贝叶斯因子的。（这种Savage-Dickey表示依赖于三种不同密度的特定版本，因此充满了危险，甚至没有提到产生边缘后验的计算挑战。）$H_0: \theta=\theta_0$ $$m_0(x)=\int_\Xi f(x|\theta_0,\xi)\pi_2(\xi)\text{d}\xi$$ $$m_a(x)=\int_{\Theta\times\Xi} f(x|\theta,\xi)\pi_1(\theta)\pi_2(\xi)\text{d}\theta\text{d}\xi$$

[这是我去年12月为NIPS研讨会估算正常化常数的一组幻灯片。]