学生t作为高斯的混合

23

使用自由度 $k > 0$ ，位置参数和比例参数的学生t分布密度 $l$ $s$

\frac{Γ (\frac{k + 1}{2})}{Γ (\frac{k}{2} \sqrt{k π s^{2}})} {1 + k^{- 1} (\frac{x - l}{s})}^{- (k + 1) / 2},

$\frac{\Gamma \left(\frac{k+1}{2}\right)}{\Gamma\left(\frac{k}{2}\sqrt{k \pi s^2}\right)} \left\{ 1 + k^{-1}\left( \frac{x-l}{s}\right)\right\}^{-(k+1)/2},$

如何显示，学生 $t$ -配送可以通过让写为高斯分布的混合 $X\sim N(\mu,\sigma^2)$ ， $\tau = 1/\sigma^2\sim\Gamma(\alpha,\beta)$ 和集成的联合密度 $f(x,\tau|\mu)$ 得到边际密度 $f(x|\mu)$ ？得到的的参数是什么 $t$ 分布，作为？的函数 $\mu,\alpha,\beta$

通过将联合条件密度与Gamma分布相结合，我迷失了微积分。

distributions mixture

— 萨利赫·乌坎（Salih Ucan）
source

31

正态分布的PDF为

f_{μ, σ} (x) = \frac{1}{\sqrt{2 π} σ} e^{- \frac{(x - μ)^{2}}{2 σ^{2}}} d x

$f_{\mu, \sigma}(x) = \frac{1}{\sqrt{2 \pi} \sigma} e^{-\frac{(x-\mu )^2}{2 \sigma ^2}}dx$

但在以下方面是 $\tau = 1/\sigma^2$

g_{μ, τ} (x) = \frac{\sqrt{τ}}{\sqrt{2 π}} e^{- \frac{τ (x - μ)^{2}}{2}} d x .

$g_{\mu, \tau}(x) = \frac{\sqrt{\tau}}{\sqrt{2 \pi}} e^{-\frac{\tau(x-\mu )^2}{2 }}dx.$

Gamma分布的PDF是

h_{α, β} (τ) = \frac{1}{Γ (α)} e^{- \frac{τ}{β}} τ^{- 1 + α} β^{- α} d τ .

$h_{\alpha, \beta}(\tau) = \frac{1}{\Gamma(\alpha)}e^{-\frac{\tau}{\beta }} \tau^{-1+\alpha } \beta ^{-\alpha }d\tau.$

因此，他们的乘积经过简单的代数简化后就可以得出

f_{μ, α, β} (x, τ) = \frac{1}{β^{α} Γ (α) \sqrt{2 π}} e^{- τ (\frac{(x - μ)^{2}}{2} + \frac{1}{β})} τ^{- 1 / 2 + α} d τ d x .

$f_{\mu, \alpha, \beta}(x,\tau) =\frac{1}{\beta^\alpha\Gamma(\alpha)\sqrt{2 \pi}} e^{-\tau\left(\frac{(x-\mu )^2}{2 } + \frac{1}{\beta}\right)} \tau^{-1/2+\alpha}d\tau dx.$

其内部部分具有明显的形式，使其成为一个的倍数伽玛函数当集成在全范围到。因此，该积分是即时的（通过知道Gamma分布的积分为单位获得），从而得到了边际分布 $\exp(-\text{constant}_1 \times \tau) \times \tau^{\text{constant}_2}d\tau$ $\tau=0$ $\tau=\infty$

f_{μ, α, β} (x) = \frac{\sqrt{β} Γ (α + \frac{1}{2})}{\sqrt{2 π} Γ (α)} \frac{1}{{(\frac{β}{2} (x - μ)^{2} + 1)}^{α + \frac{1}{2}}} .

$f_{\mu, \alpha, \beta}(x) = \frac{\sqrt{\beta } \Gamma \left(\alpha +\frac{1}{2}\right) }{\sqrt{2\pi } \Gamma (\alpha )}\frac{1}{\left(\frac{\beta}{2} (x-\mu )^2+1\right)^{\alpha +\frac{1}{2}}}.$

尝试匹配为分布提供的模式，这表明存在问题：Student t分布的PDF实际上与 $t$

\frac{1}{\sqrt{k} s} {(\frac{1}{1 + k^{- 1} {(\frac{x - l}{s})}^{2}})}^{\frac{k + 1}{2}}

$\frac{1}{\sqrt{k} s }\left(\frac{1}{1+k^{-1}\left(\frac{x-l}{s}\right)^2}\right)^{\frac{k+1}{2}}$

（的幂是，而不是）。匹配的术语表示，，和 $(x-l)/s$ $2$ $1$ $k = 2 \alpha$ $l=\mu$ 。 $s = 1/\sqrt{\alpha\beta}$

请注意，此推导不需要微积分：所有事情都是通过查找Normal和Gamma PDF的公式，执行一些涉及乘积和幂的微不足道的代数操作以及匹配代数表达式中的模式（按此顺序）。

— ub
source

10

受到这个答案的启发，我制作了t分布的动画，作为正态分布的混合。可在此处获得：sumsar.net/blog/2013/12/t-as-a-a-mixture-of-normals

— RasmusBååth2013年

1

@whuber：从技术上讲，对于这种匹配，您总是会隐式使用微积分，因为您可以使用已知的积分形式将伽玛密度积分出来。（这相当于统计学家将西兰花与肉和土豆混合在一起来隐藏西兰花的方法。）隐藏微积分的聪明方法！

— 恢复莫妮卡

1

我不知道计算步骤，但是我确实知道某本书的结果（不记得是哪本书...）。我通常直接记住它... :-) 具有度自由度的Student 分布可以看作是方差混合正态分布，其中遵循反伽马分布。更精确地，〜， = $t$ $k$ $Y$ $Y$ $X$ $t(k)$ $X$ $\sqrt Y$ $\Phi$ $Y$ $IG(k/2,k/2)$ $\Phi$

— 晶晶
source

0

$0$

\sqrt{1 / τ} X = Y

$\sqrt{1/\tau} X =Y$ is equivalent to a Gaussian mixture with that prior: conditioned on

τ

$\tau$ ,

Y

$Y$ is Gaussian with precision

τ

$\tau$ , and the prior

τ

$\tau$ is as desired. Then it remains to show that

\sqrt{1 / τ} X

$\sqrt{1/\tau} X$ is a t-distribution. We can write

τ \sim Γ (α, β) \sim \frac{β}{2} Γ (α, 2) \sim \frac{β}{2} χ^{2} (2 α)

$\tau \sim \Gamma(\alpha, \beta) \sim \frac{\beta}{2} \Gamma(\alpha, 2) \sim \frac{\beta}{2} \chi^2(2\alpha)$ using a well-known result about gammas and Chi-squares (decompose a gamma as a sum of exponentials and combine the exponentials to normals to Chi squares) This in turn implies that

Y \sim X \frac{1}{\sqrt{(β / 2) χ^{2} (2 α)}}

$Y \sim X \frac{1}{\sqrt{(\beta/2) \chi^2(2\alpha)} }$

= \frac{X \sqrt{α β}}{\sqrt{χ_{2 α}^{2} / (2 α)}}

$= \frac{ X \sqrt{\alpha \beta} }{\sqrt{ \chi^2_{2\alpha}/(2\alpha)}}$ which is a scaled t with

k = 2 α

$k=2\alpha$ and

s = 1 / \sqrt{α β}

$s=1/\sqrt{\alpha \beta}$ by variance of t. We can recenter our representation at

μ

$\mu$ and

l

$l$ would follow.

— Romil Sirohi
source