MCMC何时开始普及?


18

有谁知道MCMC在哪一年左右变得司空见惯(即贝叶斯推理的一种流行方法)?随着时间的推移,链接到已发表的MCMC(期刊)文章的数量将特别有用。


2
我怀疑有人会提供一年的服务。考虑MCMC随时间的扩散更为合理。它起源于上世纪50年代的Metropolis-Hastings算法,但直到80年代开始出现相对便宜的计算能力后,才被广泛采用。据我所知,最早的使用是当时的贝叶斯人脸识别技术。其次,从90年代开始,MCMC的使用扩展到其他领域,例如芝加哥学校的经济学与市场营销。查看Gilks​​&Spiegelhalter的1996年实践MCMC
user332577 '19

1
这个问题含糊不清,需要征求意见(没有公认的常见或流行的定义)。它接受许多可以说是正确的答案。
Glen_b-恢复莫妮卡

1
@Glen_b我认为以下给出的答案非常好。你不同意吗?还是您在回答之前写过评论?(两个都说“昨天”)。
彼得·弗洛姆

2
@Peter Mine来不及回答。将鼠标悬停在每个字词上的“昨天”字样上(或任何指示自发布以来经过的时间),以查看确切的UTC时间。我认为您指出的答案是一个很好的部分答案,但该问题仍会允许您采取几种完全不同的做法,而没有很好的选择基础。
Glen_b-恢复莫妮卡

Answers:


25

克里斯蒂安(西安)罗伯特(Robert)和乔治·卡塞拉(George Casella)的这篇论文很好地总结了MCMC的历史。从论文(重点是我的)。


可以合理地视为第一个MCMC算法的是我们现在称为Metropolis算法,该算法由Metropolis等人发布。(1953)。它来自产生蒙特卡洛方法的同一批科学家,即洛斯阿拉莫斯的研究科学家,其中大多数是从事数学物理学和原子弹研究的物理学家。


Metropolis算法后来由Hastings(1970)和他的学生Peskun(1973,1981)推广。


尽管从某种意义上说是从统计学意义上的统计推论中删除了一些,并且基于统计物理学中使用的较早的技术,但Geman和Geman(1984)的具有里程碑意义的论文将Gibbs采样带入了统计应用领域。本文还负责Gibbs采样的名称


特别是,Geman和Geman(1984)影响了Gelfand和Smith(1990)撰写了一篇论文,这是主流统计界广泛使用MCMC方法的真正起点。通过使用诸如Gibbs采样器和Metropolis-Hastings算法之类的计算算法,它激发了贝叶斯方法,统计计算,算法和随机过程的新兴趣。


有趣的是,Tanner和Wong(1987)的早期论文与Gelfand和Smith(1990)的成分基本相同,即从条件分布进行模拟足以渐进地从关节进行渐进模拟这一事实被认为足够重要。成为《美国统计协会杂志》的讨论稿,但与Gelfand和Smith(1990)相比,它的影响在某种程度上是有限的。


我找不到随时间推移发表的期刊文章的数量,但这是Google Ngram随时间推移提及的数量的图表。在1990年Gelfand和Smith的论文发表之后,MCMC变得司空见惯,这一点或多或少都得到了认同。

在此处输入图片说明


1
谢谢!我认为1990年是MCMC历史上最重要的日子,因为当年Alan Gelfand和Adrian Smith的四篇论文出现在当年的顶级统计学期刊上,并使使用马尔可夫链进行仿真的概念突然成为主流。我记得在1989年6月参加了Adrian Smith在Seherbrooke(PQ)的一次演讲时,他通过展示带有几行(Fortran?)代码的幻灯片演示了该想法的普遍性。
西安

12

Knrumsey的出色回答为MCMC重要学术工作的发展提供了一些历史。值得研究的另一个方面是普通用户为促进MCMC开发的软件。统计方法通常由专家广泛使用,直到将其实现在允许普通用户无需编程即可实现的软件中。例如,软件BUGS于1997年首次发布。这似乎并没有改变N-Grams图的增长轨迹,但可能会对将这种方法推广到发现该方法的用户中产生影响。威胁要编写自己的例程。


呵呵,MCMC的生产线在1997
。– muru

位置很好-不确定变化是否足够大以至于没有统计上的意义,但无论如何都应注意。
恢复莫妮卡

从视觉上估计,如果保持1997年之前的斜率,我们会在2004年左右看到大约0.000015%的值(但实际值接近0.0000225%)。增长了50%。但是我想这个数字还是太小了。
大师

也许你是对的-好眼睛!
恢复莫妮卡

1
hmmm,BUGS 在1991
西安,
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.