Dirichlet后


11

我对Dirichlet后验分布有疑问。给定一个多项式似然函数,已知后验是,其中是我们见过观察的次数。Dir(αi+Ni)Niith

如果我们开始减少给定的固定数据 s 会发生什么?从后部的形式看来,在某个点之后根本不会停止影响后部。但是,当我们使变得非常小时,质量移动到单纯形拐角和后验概率必须受到更大程度的影响,这不是正确的说法吗?哪种说法是正确的?αDαα

Answers:


6

对我来说,预知Dirichlet参数效果的最有用的方法是Polya urn。想象一下,您的一个包含n种不同的颜色,with 中每种颜色的(请注意,您可以拥有一个球的分数)。您伸手去画一个球,然后将其与另一个相同颜色的球替换。然后,您可以无限次重复此操作,并且最终比例构成Dirichlet分布的样本。如果值非常小,则应该清楚,添加的球将使您朝第一个平局的颜色沉重,这解释了为什么质量会移动到单纯形的角。如果您有较大的,则该第一笔抽签不会对最终比例产生太大影响。αiααs

您的后验本质上是在说,您从颜色球开始,进行了一系列绘制,并碰巧将该颜色绘制了 次。然后,您可以想象使用相同的过程生成后验的样本,并想象初始以及计数对这些样本的影响。显然,的较小值对后部的影响较小。αiiNiαNα

另一种思考的方式是Dirichlet的参数控制着您对数据的信任程度。如果您的值较小,那么您几乎完全信任您的数据。相反,如果值较大,则对数据的信任度较低,并且可以使后验平滑度更高。αα

总而言之,您可以正确地说,随着减小,它们对后部的影响较小,但同时,先验的大部分质量将位于单纯形的角上。αs

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.