在Dirichlet过程中将先验值放在浓度参数上

其中大部分是背景知识，如果您已经对Dirichlet过程混合物有足够的了解，请跳到最后。假设我正在建模来自Dirichlet进程混合的某些数据，即让并以条件假定$F \sim \mathcal D(\alpha H)$$F$

$$Y_i \stackrel {iid}{\sim} \int f(y | \theta) F(d\theta).$$

这里和是现有基础量度。事实证明，如果对于每个观测，如果我知道相关的潜伏，则此模型中的可能性为，其中是的不同值的数量（随机度量几乎肯定是离散的）。Escobar和West开发了以下使用Gamma优先级对进行采样的方案；首先，他们写$\alpha > 0$$\alpha H$$Y_i$$\theta_i$$\alpha$

$$L(\alpha | t) \propto \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)}$$ $t$$\theta_i$$F$$\alpha$ $$\pi(\alpha | t) \propto \pi(\alpha) \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)} \propto \pi(\alpha)\alpha^{t - 1}(\alpha + n){B(\alpha + 1, n)} \\= \pi(\alpha)\alpha^{t - 1} (\alpha + n) \int_0^1 x^\alpha(1 - x)^{n - 1} \ dx,$$ 其中是beta函数。然后注意，如果我们引入一个潜在参数则似然具有混合Gamma分布的形式，并用它来写下Gibbs采样器。$B(\cdot, \cdot)$$X \sim \mbox{Beta}(\alpha + 1, n )$

现在我的问题。为什么我们不能只写 而不是混合使用Gamma分布，而是使用单个Gamma分布？如果我们引入我是否应该能够做同样的事情而又不需要使用混合物？

$$L(\alpha | t) \propto \frac{\alpha^t \Gamma(\alpha)}{\Gamma(\alpha + n)} = \frac{\alpha^t \Gamma(n)\Gamma(\alpha)}{\Gamma(\alpha + n)\Gamma(n)} = \alpha^t B(\alpha, n) \Gamma(n) \\ \propto \alpha^t \int_0 ^ 1 x^{\alpha - 1} (1 - x)^{n - 1} \ dx,$$ $X \sim \mbox{Beta}(\alpha, n)$

编辑更多详细信息更多详细信息：为了填补一些空白，Escobar和West中的论点是，让具有形状为且均值为的Gamma分布，因此我们可以介绍一个潜在的使得全条件句是分配为和A的混合物和一$\alpha$$a$$a / b$

$$\pi(\alpha | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha} \int_0 ^ 1 x^{\alpha} (1 - x)^{n - 1} \ dx$$ $X$ $$\pi(\alpha, x | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha}x^{\alpha}(1 - x)^{n - 1}.$$ $\mbox{Beta}(\alpha + 1, n)$$X$$\mathcal G(a + t, b - \log(x))$$\mathcal G(a + t - 1, b - \log(x))$为。$\alpha$

由相同的参数，我得到了相同的结果，但与用于和为。对我来说，这似乎更容易。他们为什么不这样做呢？$\mbox{Beta}(\alpha, n)$$X$$\mathcal G(a + t, b - \log(x))$$\alpha$

我看不出您所写的内容与Escobar和West的根本不同。

$$\begin{eqnarray*} \pi(\alpha|t) &\propto& \pi(\alpha)\pi(t|\alpha) = \pi(\alpha)L(\alpha|t) \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)}{\Gamma(\alpha+n)} \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha+n)} \\ &=& \pi(\alpha)\alpha^tB(\alpha,n) \\ &=& \pi(\alpha)\alpha^{t-1}(\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ 其中倒数第二行是您的方式，最后一行是E＆W的方式它和它们相等，因为 n）\ end {eqnarray *} 回想一下 $$\begin{eqnarray*} \alpha B(\alpha,n) &=& \alpha \frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha + n)} = \frac{(\alpha\Gamma(\alpha))\Gamma(n)(\alpha+n)}{(\Gamma(\alpha + n)(\alpha+n))} = (\alpha+n) \frac{\Gamma(\alpha + 1)\Gamma(n)}{\Gamma(\alpha + n + 1)} \\ &=& (\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ $\Gamma(z+1) = z\Gamma(z)$。

我猜他们比您更喜欢他们的表述，因为它只具有Beta函数项，而不是Beta和Gamma的乘积，但我可能是错的。我不太了解您写的最后一部分，您能否更清楚地了解采样方案？