经验贝叶斯和随机效应之间有联系吗?


12

最近,我碰巧读了有关经验贝叶斯的信息(Casella,1985年,经验贝叶斯数据分析入门),它看起来很像随机效应模型。两者的估算都缩小到了全球平均水平。但是我还没有读完...

有没有人对他们之间的异同有任何见解?


1
经验贝叶斯可以用在有或没有随机效应的情况下-EB只是指从数据中估计先验分布的参数(有时称为超参数)的贝叶斯方法-这是一种估算方法,而随机效应模型是一种用于估算随机分布的方法。建模相关数据。也许您看到的示例涉及使用经验贝叶斯估计随机效应模型,这就是为什么要将两者联系在一起的原因。
2012年

1
卡塞拉,不是卡塞拉!
西安

2
主要区别在于,随机效应模型是模型(包括随机效应),而经验贝叶斯技术是推理技术:例如,您可以对随机效应模型进行经验贝叶斯估计...经验贝叶斯方法适用于几乎每种情况您可以在其中使用常规贝叶斯方法,而不仅限于随机效应模型。
西安

Answers:


5

早在1970年代中期,JASA上就有一篇非常不错的文章,涉及James-Stein估计量和经验贝叶斯估计量,特别适用于预测棒球运动员的击球平均值。我对此可以提供的见解是James和Stein的结果,他们使统计界感到惊讶,对于三个或更多个维度的多元正态分布,MLE(坐标平均值的向量)是不可接受的。

通过证明根据均方误差作为损失函数,将均值向量向原点收缩的估计量一致更好,从而获得了证明。埃夫隆和莫里斯(Efron and Morris)表明,在使用经验贝叶斯方法进行的多元回归问题中,得出的估计量是James-Stein类型的收缩估计量。他们使用此方法根据早期赛季的结果预测大联盟棒球运动员的最后一个赛季的击球平均值。该估算值将每个人的个人平均值移动到所有玩家的平均值。

我认为这可以解释这种估计量如何在多元线性模型中产生。它并未完全将其连接到任何特定的混合效果模型,但可能是该方向的一个很好的线索。

一些参考

  1. B. Efron和C. Morris(1975),使用Stein估计量及其推广的数据分析J。Amer。统计 副会长 ,卷 70号 350,311–319。
  2. B. Efron和C. Morris(1973),斯坦因的估计规则及其竞争对手-经验贝叶斯方法J。Amer。统计 副会长 ,卷 68号 341,117–130。
  3. B. Efron和C. Morris(1977),斯坦因的统计悖论,《科学美国人》,第一卷。236号 5,119–127。
  4. G. Casella(1985),贝叶斯经验数据分析导论阿米尔。统计员,第一卷。39号 2,83-87。

1
这个问题并不完全相关,但是关于(不)可允许性结果的更多信息。
红衣主教

1
我已经放置了指向我认为您在参考文献下称为项目(1)的文章的链接,但是由于Efron&Morris在这段时间内撰写了许多有关相关主题的文章,因此您实际上并不清楚是哪一个指。我还尝试过调整某些格式和拼写。请检查我是否没有无意中引入任何错误,并随时进行进一步编辑或回滚我的任何错误。
红衣主教

1
我已经在文章中放置了指向权威档案的链接,但是,某些或全部文章可能会在网上的其他(不稳定)来源中找到。
红衣主教

1
感谢您发布《埃夫隆和莫里斯》文章。当唐·凯辛格(Don Kessinger),罗恩·桑托(Ron Santo)和比利·威廉姆斯(Billy Williams)为小熊队效力时,《科学美国人》仍然发表了值得阅读的文章,这使人想起了更好的日子。
Ringold 2012年

1
布拉德·埃夫隆(Brad Efron)的最新专着《大规模推论》最近出现。尽管标题如此,但它全都与经验贝叶斯有关!(有关我对该书的评论,请参见此处。)
西安
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.