拉普拉斯平滑和Dirichlet先验


Answers:


10

当然。本质上是这样的观察:狄利克雷分布是多项式分布的共轭先验。这意味着它们具有相同的功能形式。本文提到了这一点,但我只是强调,这是从多项式采样模型得出的。所以,开始吧...

Xķñ=一世=1个ķX一世Xπd一世[Rαķ

παX

pπ|Xα=pX|πpπ|α

pX|π

pX|π=ñX1个Xķπ1个X1个πķXķ

pπ|α=1个α一世=1个ķπ一世α-1个

α=ΓαķΓķα

pπ|αX=pX|πpπ|α一世=1个ķπ一世X一世+α-1个

换句话说,后部也是 Dirichlet。问题是关于后均值。由于后验是Dirichlet,因此我们可以将公式用于Dirichlet的均值来发现,

Ë[π一世|αX]=X一世+αñ+ķα

希望这可以帮助!


pπ|αX=pX|πpπ|α/pX|αpπ|αX=pX|πpπ|απ,但我认为写一个等式不是正确的。
michal '16

α+ñsüCCËssα+β+ñsüCCËss+ñF一种一世ü[RËsα+ñsüCCËss-1个α+β+ñsüCCËss+ñF一种一世ü[RËs-2α=β=1个

0

附带说明一下,我还想在上述推导中增加一点,这与主要问题无关。但是,谈到有关多项式分布的Dirichlet先验时,我认为值得一提的是,如果我们将概率作为扰动变量,则似然函数的形式是什么。

pπ|αX一世=1个ķπ一世X一世+α-1个pX|α

pX|α=一世=1个ķpX|π一世αpπ|αdπ1个dπ2dπķ

pX|α=ΓķαΓñ+ķα一世=1个ķΓX一世+αΓα

ñ

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.