什么时候可以使用Gibbs采样代替Metropolis-Hastings？

MCMC算法有多种：

• 大都会-哈丁斯
• 吉布斯
• 重要/拒绝抽样（相关）。

为什么要使用Gibbs抽样而不是Metropolis-Hastings？我怀疑在某些情况下，使用吉布斯采样比使用Metropolis-Hastings推理更容易处理，但是我不清楚具体细节。

首先，让我注意一下

MCMC算法有几种不同的类型：Metropolis-Hastings，Gibbs，重要性/拒绝采样（相关）。

$f$$\omega$$f$$f$$f$

其次，问题

为什么有人会选择Gibbs抽样而不是Metropolis-Hastings？我怀疑在某些情况下，使用Gibbs采样比使用Metropolis-Hastings更容易推断

没有答案，因为Metropolis-Hastings采样器几乎可以是任何东西，包括Gibbs采样器。我相当详细地回答了一个较早的类似问题。但是，让我在此处添加一些多余的点：

引入Gibbs采样的主要原因是通过产生一系列仍可收敛到正确目标的低维模拟来打破维数的诅咒（这会影响拒绝采样和重要性采样）。即使目标的尺寸会影响收敛速度。Metropolis-Hastings采样器被设计为通过提案（例如重要性和拒绝采样）通过接受/拒绝步骤校正错误的密度来创建马尔可夫链（如吉布斯采样）。但是重要的一点是，他们并不反对：也就是说，当面对复杂的低维条件目标时，Gibbs抽样可能需要Metropolis-Hastings步骤，而Metropolis-Hastings提议可能以（Gibbs）完整条件的近似为基础。在正式定义中 Gibbs采样是Metropolis-Hasting算法的特例，接受概率为1。（顺便说一句，我反对使用引用该推论，因为我将其保留用于统计目的，而那些采样器是数字设备。）

通常，Gibbs采样（被理解为运行一系列低维条件模拟）在易于分解且易于执行的条件分解环境中受到青睐。在这种分解导致多模态并因此难以在模式之间移动的环境中（想到混合模型等潜在变量模型），在Metropolis-Hasting算法中使用更具全局性的提案可能会产生更高的效率。但是缺点在于在Metropolis-Hasting算法中选择提案分布。