为什么方差上的被认为是弱的?


21

背景

最常用的方差弱先验之一是反伽玛,其参数(Gelman 2006)α=0.001,β=0.001

但是,此分布的90%CI约为。[3×1019,]

library(pscl)
sapply(c(0.05, 0.95), function(x) qigamma(x, 0.001, 0.001))

[1] 3.362941e+19          Inf

据此,我认为给出方差非常高的可能性很小,而方差小于1可能性很低。IG(0.001,0.001)P(σ<1|α=0.001,β=0.001)=0.006

pigamma(1, 0.001, 0.001)
[1] 0.006312353

我是否缺少某些东西,或者这实际上是一个有用的信息?

更新以澄清,我之所以考虑这个“信息性”,是因为它非常强烈地声称方差巨大,并且远远超出了曾经测量的几乎任何方差的范围。

后续的大量方差估计的荟萃分析是否可以提供更合理的先验?


参考

Gelman2006。层次模型中方差参数的先验分布。贝叶斯分析1(3):515–533


1
“真实的”非信息先验不是分布。因此,没有先验概率,例如P(sigma <1)。
斯特凡纳·洛朗

Answers:


38

使用逆伽玛分布,我们得到:

p(σ2|α,β)(σ2)α1exp(βσ2)

您可以轻松地看到,如果和则反伽马将先接近Jeffreys。这种分布称为“非信息性”,因为它是对杰弗里斯先验的适当近似α →交通0β0α0

pσ21个σ2

例如,这对于比例参数是无意义的,请参见第18页,因为该先验是唯一在比例变化下保持不变的参数(请注意,近似值是不变的)。它具有的不确定整数,表明的范围包含或不合适。但是这些情况只是数学上的问题,而不是现实世界中的问题。切勿实际观察方差的无穷大,如果观察到的方差为零,则您将获得完美的数据!因为您可以设置等于下限和等于上限,所以您的分配是正确的。σ 2 0 大号> 0 û < 日志σ2σ20大号>0ü<

虽然这看起来“奇怪”,因为它偏爱小方差而不是大方差,但这似乎只是一个尺度。您可以证明的分布不正确。因此,此先验并不偏向于任何一个规模日志σ2

尽管与您的问题没有直接关系,但我建议通过选择Jeffreys之前的上限和下限U而不是αβ来 “更好地”分配非信息性。通常情况下,限制可以很容易用一点心思的东西设定σ 2,其实就是在现实世界中。如果是某种物理量的误差-L不能小于原子的大小,或者不能小于实验中可以观察到的最小大小。进一步的U大号üαβσ2大号ü不能大于地球(如果想真正保守,也不能大于太阳)。这样你让你的不变性性质,并且其更容易之前从样品:取,然后将该模拟值作为σ 2 b = exp q b qbüñ一世FØ[R日志大号日志üσb2=经验值qb


5
+1不仅可以回答问题,还可以提供有用的建议。
Whuber

ØGσ

ËŤ一种21个1个F1个1个ËŤ一种200
概率

1
[0]σËXpüØG大号ØGüσü大号ü
David LeBauer 2011年

0α=1个β=1个/2

10

非常接近公寓。其中位数为1.9 E298,几乎是双精度浮点运算中可以表示的最大数字。正如您所指出的,它分配给不是很大的任何时间间隔的概率非常小。很难获得比这少的信息!


感谢您的解释。我一直在遇到收敛性问题,而令我惊讶的是,我使用的许多变量的均值小于1000(即,如果某项> 1000 g,则以kg为单位),并且方差大约是大小。因此,我意识到我需要更多的先验知识来整合这些信息,即使我对它的价值或如何划分没有真正的先验知识。
David LeBauer 2011年

根据模型的不同,使用此先验后验可能非常不正确
JMS
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.