贝叶斯与蒙特卡洛相结合


10

我正在阅读变分贝叶斯,据我所知,它归结为这样的想法:使用函数q逼近(其中z是模型的潜在变量,而x是观察到的数据)z ,假设q分解为q iz i,其中z i是潜在变量的子集。然后可以证明最优因子q iz i为: q p(zx)zxq(z)qqi(zi)ziqi(zi)

qi(zi)=lnp(x,z)z/i+const.

其中尖括号表示除以外的所有潜在变量对分布q z 的期望。ziq(z)

现在,通常通过分析来评估此表达式,以给出近似目标值的准确答案。但是,在我看来,由于这是一个期望,因此一个显而易见的方法是通过抽样来近似该期望。这将为您提供近似目标函数的近似答案,但是它使算法非常简单,甚至在分析方法不可行的情况下。

我的问题是,这是已知方法吗?它有名字吗?是否有理由为什么它可能无法很好地工作,或者可能无法产生如此简单的算法?


我认为更大的问题将是低估VB逼近通常产生的不确定性。
概率

Answers:


4

我会承认这不是我非常了解的领域,因此请带一点盐。

qiqq~

qi

所以您提出的并不是那么简单,但是它与最近提出的实际方法非常接近

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.