我可以在不影响马尔可夫性的情况下更改随机行走MH MCMC中的提案分配吗?


14

具有对称建议的随机漫步都会区

具有接受概率的性质qX|ÿ=G|ÿ-X|

P一种CCËpŤ ÿ={1个Fÿ/FX}

不依赖提案 G

这是否意味着我可以更改 根据链的先前性能 g ,而不会影响链的马尔可夫性?G

我特别感兴趣的是根据接受率调整普通提案的比例。

如果有人可以指出在实践中用于此类问题的适应算法,也将不胜感激。

非常感谢。

[编辑:从robertsy和wok给出的参考开始,我发现了以下关于MH自适应算法的参考:

Andrieu,Christophe和ÉricMoulines。2006。
一些自适应MCMC算法的遍历性。应用概率年鉴16,第。3:1462-1505。http://www.jstor.org/stable/25442804

Andrieu,Christophe和Johannes Thoms。
2008年。有关自适应MCMC的教程。统计与计算18,没有。4(12):343-373。doi:10.1007 / s11222-008-9110-y。http://www.springerlink.com/content/979087678366r78v/

Y.Atchadé,G。Fort,E。Moulines和P. Priouret。2009。
自适应马尔可夫链蒙特卡洛:理论与方法。预印本。

伊夫·阿查德(Atchadé)。2010。
一些带有亚几何核的自适应MCMC算法的极限定理。伯努利16号。1月(2月):116-154。doi:10.3150 / 09-BEJ199。 http://projecteuclid.org/DPubS?verb=Display&version=1.0&service=UI&handle=euclid.bj/1265984706&page=record

卡佩(Cappé,O.),圣·戈迪尔(J. Godsill)和穆林(E. Moulines)。2007年。
顺序蒙特卡洛方法的现有方法和最新进展的概述。IEEE 95,No。5:899-924。

乔丹妮,保罗。2010。
通过快速估计法线混合来自适应独立大都市-停滞。计算与图形统计杂志19,第。2(6):243-259。doi:10.1198 / jcgs.2009.07174。http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.07174

Latuszynski,Krzysztof,Gareth O Roberts和Jeffrey S Rosenthal。2011。
自适应Gibbs采样器和相关的MCMC方法。1101.5838(1月30日)。http://arxiv.org/abs/1101.5838

Pasarica,C。和A. Gelman。2009年。
使用期望的平方跳距自适应调整Metropolis算法。统计公报。

Roberts,Gareth O.,2009年。
《自适应MCMC示例》。计算和图形统计杂志18,第。2(6):349-367。doi:10.1198 / jcgs.2009.06134。http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.06134

]


为什么您的SO记录中没有+100奖金?

@mbq,可能是因为我很早以前就在OS上也设置为0时创建了这个帐户...可惜,在CW上设置100似乎很重要,因为您必须真正在这里回答问题:)
VitoshKa

您可以通过清除所有关联,然后再次关联帐户来获得奖励。
炒锅

Answers:


7

我认为Heikki Haario等人的这篇论文。将为您提供所需的答案。提议密度的调整会影响链的马尔可夫性,因为新提议的值不仅取决于前一个提议的价值,还取决于整个链。但是,如果仔细注意,该序列似乎仍然具有良好的属性。


感谢robertsy,提供了很好的参考。确实,该过程不是markov。即使验收概率与过去无关,流程的过渡核心还是提议密度的函数,因此取决于整个链。
VitoshKa'2

3

您可以使用延迟拒绝来提高接受率,如 Tierney,Mira(1999)中。它基于第二个提议函数和第二个接受概率,这确保了马尔可夫链在相同不变分布下仍可逆:您必须谨慎,因为“ 很容易构造出似乎可行的自适应方法,但实际上样本来自错误的分配 ”。



1

这是我的出版物的一个无耻的插件,但是我们在这项工作中确实做到了这一点arxiv)。除其他事项外,我们提出适应指数分布的方差以提高接受度(本文算法中的步骤S3.2)。

在我们的案例中,渐进式调整不会更改提案分配(在本文中, F1个)。因此,渐近地,该过程仍然是与Wang-Landau算法相同的精神上的马尔可夫模型。我们以数字方式验证该过程是遍历遍历的,并且我们从目标分布中选择了链样本(例如,图4的左下图)。

我们不使用有关接受率的信息,但是我们获得的接受程度与我们感兴趣的数量无关(相当于自旋系统的能量,图4的右下角)。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.