贝叶斯信息准则中离散或二进制参数的说明

BIC根据参数数量进行处罚。如果某些参数是某种二进制指示器变量怎么办？这些算作完整参数吗？但我可以结合 $m$ 二进制参数变成一个离散变量，其值取 $\{0,1,...,2^m-1\}$ 。这些算作是 $m$ 参数还是一个参数？

— 高带宽
source

由于BIC中“参数数量”的这种不精确性，部分原因是DIC（偏差信息标准）引入了有效数量的参数作为

p_{d} （ X ） = Ë [d （ θ ） | X] - d （ Ë [θ | X] ）

$p_D(x) = \mathbb{E}[D(\theta)|x] - D(\mathbb{E}[\theta|x])$ 哪里

d （ θ ） = - 2 日志 F （ X | θ ）

$D(\theta)=-2\log f(x|\theta)$ 和

迪克 （ X ） = p_{d} （ X ） + Ë [d （ θ ） | X]

$\text{DIC}(x) = p_D(x) + \mathbb{E}[D(\theta)|x]$ 注意

p_{D} (x)

$p_D(x)$ 然后取决于数据。（正如所讨论的有，DIC也有自己的问题！）

— 西安
source

所以我有些困惑。我以为BIC是

E [l o g P (y | M o d e l)] = \log (\int P (y | θ) P_{m o d e l} (θ) d θ)

$E[log P(y|Model)] = \log(\int P(y|\theta)P_{model}(\theta)d\theta)$ ，可以通过MCMC仿真计算得出。为什么我们要计算DIC？

— highBandWidth 2012年

是的，BIC是边际可能性的近似值。但是，当样本量增长到无穷大时，只有一个近似值收敛到“真相”。因此，它不是直接的贝叶斯方法（一件事不使用先验！），并且与MCMC完全无关（其中近似值是蒙特卡罗类型：如果我增加模拟次数，则近似值会提高）。DIC被许多人（包括B. Carlin和D. Spiegelhatler）视为更具贝叶斯性

— 西安，

我想我的问题是，DIC也是边际模型可能性的近似值吗？我想我应该自己阅读一下，但是由于我们正在讨论它，所以我认为解释一下将使答案更加完整。谢谢！

— highBandWidth 2012年