实践中使用的Metropolis-Hastings算法

我今天正在阅读Christian Robert的Blog，非常喜欢他正在讨论的新的Metropolis-Hastings算法。看起来很容易实现。

每当我对MCMC进行编码时，我都会坚持使用非常基本的MH算法，例如对数刻度上的独立移动或随机游动。

人们通常使用哪种MH算法？特别是：

• 为什么使用它们？
• 从某种意义上讲，您必须认为它们是最佳的-毕竟，您通常会使用它们！那么，您如何判断最优性：易于编码，收敛，...

我对实际使用的内容特别感兴趣，即您编写自己的方案时。

混合蒙特卡洛是用于神经网络的标准算法。用于高斯过程分类的吉布斯采样（当不使用确定性近似时）。

当难以从目标分布中采样时（例如，先验不与似然共轭时），将使用MH采样。因此，您可以使用投标分布生成样本并根据接受概率来接受/拒绝它们。在吉布斯采样算法是MH的特定实例，其中提案总是接受。Gibbs采样由于其简单性而成为最常用的算法之一，但不一定总是可以应用，在这种情况下，人们会根据接受/拒绝提议求助于MH。

在物理学中，特别是统计物理学中，大都会类型的算法被广泛使用。这些真的有无数种变体，新的变体正在积极开发中。这个主题太宽泛，无法在此处进行任何扩展，因此，如果您有兴趣，可以从这些讲义或ALPS库网页（http://alps.comp-phys.org/mediawiki）开始。

我使用了切片采样器-最初由Neal（2003）提出，我通过启发式优化对其进行了调整。