自适应MCMC可以信任吗？

我正在阅读有关自适应MCMC的信息（例如，参见《马尔可夫链蒙特卡洛手册》第4章，布鲁克斯等人，2011年；Andrieu和Thoms，2008年）。

$n$ $p(n)$ $\lim_{n \rightarrow \infty} p(n) = 0$

该结果是（后验的）直观的，渐近的。由于适应量趋于零，因此最终不会与遍历无关。我担心的是有限的时间会发生什么。

我们如何知道在给定的有限时间内适应性并不会破坏遍历性，并且采样器正在从正确的分布中采样？如果完全有道理，一个人应该做多少磨合以确保早期适应不会使链条产生偏差？
该领域的从业者是否信任自适应MCMC？我问的原因是因为我已经看到许多最近的方法，这些方法尝试以已知的其他各种更复杂的方式（包括再生或整体方法）以其他更复杂的方式建立适应性（例如，选择过渡是合法的）取决于其他平行链状态的运算符）。可替代地，仅在老化期间（例如在Stan中）执行调整，而不在运行时执行。所有这些努力向我暗示，罗伯茨和罗森塔尔的自适应MCMC（实施起来非常简单）并不可靠；但也许还有其他原因。
那么具体的实现又如何呢？比如自适应都市（Hario等，2001）？

参考文献

Rosenthal，JS（2011）。最佳提案分配和自适应MCMC。马尔可夫链手册蒙特卡罗，93-112。
Andrieu，C.和Thoms，J.（2008年）。关于自适应MCMC的教程。统计与计算，18（4），343-373。
Roberts，GO和Rosenthal，JS（2007）。自适应马尔可夫链蒙特卡罗算法的耦合和遍历性。应用概率杂志，458-475。
Haario H.，Saksman E.和Tamminen J.（2001）。自适应Metropolis算法。伯努利（Bernoulli），223-242。

— Lacerbi
source

+1，但是即使对于非自适应MCMC也有有限时间保证吗？

— Juho Kokkala

@JuhoKokkala：可能不是，但是似乎在自适应MCMC中，它又增加了一层可能的失败模式，与标准的收敛问题相比，这种失败模式较难理解且难以检查（本质上已经很难诊断）。至少，这就是我对从业者（我为一个人）会对此保持警惕的原因的理解。

— –lacerbi

我认为在老化过程中进行适应是应对适应的最佳方法。显然，如果您的后部某些区域需要与其他区域不同的调音，那么您会遇到问题，但是如果是这样，那么如果您运行完全自适应的MCMC，则无论如何都会因为条件消失而无法进行很大的调整。。

— sega_sai

我们怎么知道在给定的有限时间内适应性并不会破坏遍历性，并且采样器正在从正确的分布中采样？如果说得通的话，应该做多少磨合以确保早期适应不会使链条产生偏差？

遍历性和偏向性是关于马尔可夫链的渐近性质的，它们并没有说明马尔可夫链的行为和分布at a given finite time。适应性与该问题无关，任何MCMC算法都可能产生远离目标的仿真at a given finite time。

— 西安
source

（+1）感谢您的澄清。是的，我知道MCMC算法不能保证at a given finite time。但是，实际上，我们的确使用它们，就像它们在给定的有限时间内提供目标分布的良好/合理近似值一样，即使在大多数情况下也没有理论上的保证（AFAIK在数学上只能理解少数情况）。也许我应该说“搞混时间 ”？这更接近我的意思。如果您对如何解决该语言有任何建议，请告诉我。

— –lacerbi