为什么我们需要MCMC结果的轨迹图


12

我正在使用MCMC方法阅读研究论文,并且看到其中大多数提供了跟踪图。为什么我们需要蒙特卡洛马可夫链中的迹线图?参数跟踪图表示什么?

Answers:


17

您可以创建参数跟踪图,以确保先验分布得到正确校准,这可以通过在MCMC算法运行时具有足够状态变化的参数来表示。

一个极端的例子是将先验分布方差设置为0。然后,后验参数估计将永远不会改变。您的算法会说您拥有最佳的参数估计值,但是它没有检查足够数量的参数来确定这是否真的最合适。如果将先验分布方差设置得太高,则会遇到类似的问题。这是因为新参数不太可能与您的数据相关-因此,用新参数计算出的对数似然性可能不会好于使用旧参数的对数似然性。(例如,如果“ true”参数为0.5,初始估计值为2,但您是从均值2和方差10,000的正态分布中选择的,则您不太可能获得更接近1的参数。

您需要选择一个先验方差,以使您的参数状态发生足够的变化,以免卡在对数似然分布中的局部最小值和最大值上,但又足够好,可以得到合理的参数估计值。大多数文献都建议您获得40-60%的时间来更改状态的参数。

跟踪图的另一个原因是老化。通常,图中的老化时间很明显(例如,如果true参数为1.5,而您的初始估计为4,则应该看到参数估计从4迅速变为1.5然后在1.5左右“弹跳”。通常,您仅排除前n个迭代,其中n足够大,可以确定已经消除了烙印(例如1000),但是如果计算很耗时,或者参数估计要比n花费更长的时间进行收敛允许,那么您可能想要省略或多或少的观察值以解释老化。您可以检查绘图以查看老化期的结束位置,以确保老化不会影响结果。

请注意,我一直在讨论参数点估计。如果要估计参数方差,那么确保进行适当的状态更改就显得尤为重要。


5
+1但另一方面是,我们不完全相信正式的收敛诊断程序,而是希望在我们声称收敛之前先关注一下。这是否是完全理性的则是另一个问题...
conjugateprior

1
抱歉,挖出这个旧帖子。但是,只要迭代次数足够多,就不应该认为从先验分布生成的先验值无关紧要吗?
mscnvrsy

@mscnvrsy:如果您想为先验提供较少的信息,则可以像Jeffry的先验或统一先验一样放置非信息性先验。
Benzamin

3
我完全不同意MCMC轨迹图与校准先验分布有关的观点。MCMC算法针对给定的后验分布,与先验的选择无关,并在适当的条件下创建会收敛到该平稳分布的马尔可夫链。查看迹线图仅对评估马尔可夫链的收敛性或缺乏有用。
西安
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.