当使用均一的候选分布运行Metropolis-Hastings算法时,接受率大约为20%的原理是什么?
我的想法是:一旦找到了真实的(或接近真实的)参数值,那么就不会有来自相同均匀间隔的任何新的候选参数值集会增加似然函数的值。因此,我运行的迭代次数越多,我应该得到的接受率就越低。
我的想法在哪里错了?非常感谢!
这是我的计算的说明:
其中是对数似然。
由于候选对象始终取自相同的均匀间隔,
因此,接受率的计算可缩减至:
的接受规则如下:
如果,其中是从区间均匀分布得出的,则
否则从间隔均匀分布中
当使用均一的候选分布运行Metropolis-Hastings算法时,接受率大约为20%的原理是什么?
我的想法是:一旦找到了真实的(或接近真实的)参数值,那么就不会有来自相同均匀间隔的任何新的候选参数值集会增加似然函数的值。因此,我运行的迭代次数越多,我应该得到的接受率就越低。
我的想法在哪里错了?非常感谢!
这是我的计算的说明:
其中是对数似然。
由于候选对象始终取自相同的均匀间隔,
因此,接受率的计算可缩减至:
的接受规则如下:
如果,其中是从区间均匀分布得出的,则
否则从间隔均匀分布中
Answers:
我相信由Roberts,Gelman和Gilks 提出的随机行走Metropolis算法的弱收敛和最优缩放是0.234最优接受率的来源。
本文显示的是,在某些假设下,您可以缩放随机游动Metropolis-Hastings算法,因为空间的尺寸达到无穷大,以得到每个坐标的极限扩散。在极限情况下,如果接受率取值为0.234,则扩散可以视为“最有效”。直观地讲,这是在做出许多小的可接受步骤与做出许多被拒绝的大型提议之间的权衡。
与模拟退火相反,Metropolis-Hastings算法并不是真正的优化算法。这是一种应从目标分布进行模拟的算法,因此不应将接受概率逼近0。
只是为了通过@NRH回答。一般想法遵循Goldilocks原则:
当然,问题是,“正当”是什么意思。本质上,对于特定情况,它们将预期的平方跳距离最小化。这等效于最小化滞后1自相关。最近,夏洛克和罗伯茨证明魔术0.234对于其他目标分布有效:
C.Sherlock,G.Roberts(2009年); 椭圆对称单峰目标上随机行走大都市的最优标度2。伯努利15(3)
我将其添加为答案,因为我没有足够的声誉在该问题下发表评论。我认为您对接受率和接受率感到困惑。
现在,您对最佳接受率为20%的怀疑实际上是关于实际接受率,而不是接受率。答案在其他答案中给出。我只是想指出您的困惑。