满足详细平衡的MCMC是否会产生固定分布?


12

我想我了解详细的平衡条件的方程,该方程表明对于转移概率和平稳分布π,如果q x | y π y = q y | x π X qπ

q(x|y)π(y)=q(y|x)π(x),

如果我将其重述为:

q(x|y)q(y|x)=π(x)π(y).

基本上,从状态转换到状态y的概率应与它们的概率密度之比成正比。xy

Answers:


10

满足详细平衡的MCMC总是会产生平稳分布是不正确的。您还需要遍历整个过程。让我们看看为什么:

认为是所有可能状态的集合的状态,并通过索引i进行标识。在马尔可夫过程中,分布p ti 根据xipt(i)

pt(i)=jΩjipt1(j)

Ωjiq(x|y)

所以,我们有

pt(i)=j(Ωji)tp0(j)

Ωji

p0(j)

  • Ω

π

  • π

遍历性表示1.,详细平衡表示2.,这就是为什么两者都形成渐进收敛的必要条件和充分条件。

为什么详细平衡意味着2:

从...开始

p(i)Ωij=Ωjip(j)

j

p(i)=jΩjip(j)

jΩij=1

上面的方程式是特征值1的定义(便于查看是否以矢量形式编写它:)

1.v=Ωv

OP并没有询问其是否唯一,而是询问具有详细平衡的MCMC如何足以产生不变的概率密度。
gatsu

1
该答案的第一句话是“实现详细平衡的MCMC总是会产生平稳分布是不正确的”。因此,不,详细的平衡不足以产生屈服和不变的密度……这怎么不能解决问题?
豪尔赫·雷涛

0

我认为是这样,因为对于无法还原的MC如果满足详细的平衡,则它具有唯一的固定分布,但是要使其与初始分布无关,它也必须是非周期性的。

对于MCMC,我们从数据点开始,然后提出一个新点。我们可能会或可能不会移至建议的点,即我们有一个自环,该环使不可约的MC非周期性。

现在,由于满足DB,它也具有正的重复状态,即返回状态的平均时间是有限的。因此,我们在MCMC中构建的链是不可还原的,非周期性的和正递归的,这意味着它是遍历链。

我们知道,对于不可还原的遍历链,存在一个固定分布,它是唯一的并且与初始分布无关。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.