候选人分布均匀的都市空港大学的录取率


9

当使用均一的候选分布运行Metropolis-Hastings算法时,接受率大约为20%的原理是什么?

我的想法是:一旦找到了真实的(或接近真实的)参数值,那么就不会有来自相同均匀间隔的任何新的候选参数值集会增加似然函数的值。因此,我运行的迭代次数越多,我应该得到的接受率就越低。

我的想法在哪里错了?非常感谢!

这是我的计算的说明:

Acceptance_rate=exp{l(θc|y)+log(p(θc))[l(θ|y)+log(p(θ)]},

其中是对数似然。l

由于候选对象始终取自相同的均匀间隔,θ

p(θc)=p(θ).

因此,接受率的计算可缩减至:

Acceptance_rate=exp{l(θc|y)[l(θ|y)]}

的接受规则如下:θc

如果,其中是从区间均匀分布得出的,则UAcceptance_rateU[0,1]

θ=θc,

否则从间隔均匀分布中θc[θmin,θmax]


1
我已更改格式以提高可读性,请检查以确保未更改原始含义。
mpiktas

Answers:


9

我相信由Roberts,Gelman和Gilks 提出的随机行走Metropolis算法弱收敛和最优缩放是0.234最优接受率的来源。

本文显示的是,在某些假设下,您可以缩放随机游动Metropolis-Hastings算法,因为空间的尺寸达到无穷大,以得到每个坐标的极限扩散。在极限情况下,如果接受率取值为0.234,则扩散可以视为“最有效”。直观地讲,这是在做出许多小的可接受步骤与做出许多被拒绝的大型提议之间的权衡。

与模拟退火相反,Metropolis-Hastings算法并不是真正的优化算法。这是一种应从目标分布进行模拟的算法,因此不应将接受概率逼近0。


9

只是为了通过@NRH回答。一般想法遵循Goldilocks原则

  • 如果跳跃“太大”,则链条粘住;
  • 如果跳转“太小”,则链探索参数空间的速度会非常慢;
  • 我们希望跳跃是正确的。

当然,问题是,“正当”是什么意思。本质上,对于特定情况,它们将预期的平方跳距离最小化。这等效于最小化滞后1自相关。最近,夏洛克和罗伯茨证明魔术0.234对于其他目标分布有效:

C.Sherlock,G.Roberts(2009年); 椭圆对称单峰目标上随机行走大都市的最优标度2。伯努利15(3)


1
(+1)感谢您的参考。是另一个参考,表明0.234并不是完整的故事。
NRH

2

我将其添加为答案,因为我没有足够的声誉在该问题下发表评论。我认为您对接受率接受率感到困惑。

  1. 接受率用于决定接受还是拒绝候选人。您称为接受率的比率实际上称为接受率,它不同于接受率。
  2. 录取率是录取率。它是MCMC链中唯一值的数量与MCMC链中值的总数之比。

现在,您对最佳接受率为20%的怀疑实际上是关于实际接受率,而不是接受率。答案在其他答案中给出。我只是想指出您的困惑。


1
这似乎足以回答我。欢迎来到该网站,@ MusafitSafwan。由于您是新来的,因此您可能想参加我们的游览,其中包含有关新用户的信息。
gung-恢复莫妮卡
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.