什么是“单位信息优先权”？

11

我一直在阅读Wagenmakers（2007）一种解决普遍存在的p值问题的实用方法。我对将BIC值转换为贝叶斯因子和概率很感兴趣。但是，到目前为止，我对单元信息先验到底是什么还不太了解。我将不胜感激，对图片或此图片的R代码进行解释。

— 马特·阿尔布雷希特
source

6

单位信息先验是与数据相关的先验（通常是多元正态），其均值在MLE处，且精度等于一次观测提供的信息。有关详细信息，请参见此技术报告或本文。UIP的想法是先给“让数据说明一切”；在大多数情况下，添加先验可以告诉您一个观察值居中，而其他数据“指向”的位置对后续分析几乎没有影响。它的主要用途之一是表明在大样本中BIC的使用与贝叶斯因子的使用相对应，并且在其参数上具有UIP。

值得一提的是，对于许多应用问题，许多统计学家（包括贝叶斯主义者）对使用贝叶斯因子和/或BIC感到不适。

— 客人
source

2

BIC不是贝叶斯工具，因为它消除了先前的影响。作为贝叶斯人，我对贝叶斯因素很满意，但对AIC，BIC或DIC都不满意！

— 西安

好吧，我从来没有说过！作为贝叶斯人（谁读过谁并且看重贝叶斯选择），如果他们有某种决策理论上的理由，甚至对于近似反映我希望分析实现的实用程序，我都会对其中的任何一种方法感到满意。

— 来宾

感谢您的答复。我在这里

— Matt Albrecht 2012年

2

单位信息先验基于以下对共轭的解释：

设定

普通数据： 与与未知和已知。然后可以通过样本平均值充分总结数据，该样本平均值在根据。 $X^{n}=(X_{1}, \ldots, X_{n})$ $X_{i} \sim \mathcal{N}( \mu, \sigma^{2})$ $\mu$ $\sigma^2$ $\bar{X} \sim \mathcal{N}(\mu, \tfrac{\sigma^{2}}{n} )$
正常之前为： $\mu$ 随着具有相同的方差中的数据。 $\mu \sim \mathcal{N} (a, \sigma^{2})$
正常后验： $\mu$ 使用，其中和。 $\mu \sim \mathcal{N} (M, v)$ $M=\tfrac{1}{n+1}(a + n \bar{x})$ $v= \tfrac{\sigma^2}{n+1}$

解释

因此，在观察数据，我们有一个的后验，集中在观察的凸组合和观察到数据之前的假设上，是。此外，后验的方差然后由，因此，就好像我们有观测值而不是 $\bar{X}=\bar{x}$ $\mu$ $\bar{x}$ $a$ $\tfrac{\sigma^{2}}{n+1}$ $n+1$ $n$ 比较了样本均值的抽样分布。注意，采样分布与后验分布不同。尽管如此，后一种看起来像它，使数据可以说明一切。因此，利用单位信息，先验者得到的后验者大多集中在数据，并作为一次性惩罚而朝着先验信息收缩。 $\bar{x}$ $a$

此外，Kass和Wasserman指出，采用上述先验模型可以很好地近似模型选择与 BIC / 2）当大时。 $M_{0}:\mu=a$ $M_{1}: \mu \in \mathbf{R}$ $n$

一些说明：

BIC基于先验的单位信息来近似贝叶斯因子这一事实，并不意味着我们在构造贝叶斯因子之前就应该使用单位信息。杰弗里斯（Jeffreys，1961）的默认选择是在效果大小上使用柯西（Cauchy）先验，相反，另请参见Ly等。（印刷中）以解释Jeffreys的选择。
Kass和Wasserman表明，BIC除以常数（将柯西与正态分布相关）仍然可以用作贝叶斯因子的近似值（这次基于柯西先验，而不是正态）。

参考文献

Jeffreys，H.（1961年）。概率论。牛津大学出版社，英国牛津，第3版。
卡斯（R. Kass）和瓦瑟曼（R. Wasserman）（1995）。“嵌套假设的参考贝叶斯检验及其与Schwarz准则的关系”，《美国统计协会杂志》，90，928-934
Ly。A.，Verhagen AJ和Wagenmakers，E.-J。（在新闻）。哈罗德·杰弗里斯（Harold Jeffreys）的默认贝叶斯假设检验：心理学的解释，扩展和应用。数学心理学杂志。

— 亚历山大·李
source