Wishart-Wishart后验的参数是什么?


12

当推断用于生成 D维向量的正态分布的精度矩阵时 我们通常将Wishart放在之前,因为Wishart分布是具有已知均值和未知方差的多元正态分布的命题: 其中是自由度和的ΛNx1,..,xN

xiN(μ,Λ1)
Λ
ΛW(υ,Λ0)
υΛ0比例矩阵。为了增加模型的鲁棒性和灵活性,我们对Wishart的参数设置了优先级。例如,Görür和Rasmussen建议: 其中是伽马分布。
Λ0W(D,1DΛx)1υD+1G(1,1D)
G

题:

为了采样Λ0

p(Λ0|X,Λ,υ,D,Λx)W(Λ|υ,Λ0)W(Λ0|D,1DΛx)

后牙的家族和参数是什么?

PS:

删除所有不依赖因素,并使用的参数标识参数,我得到带有以下参数的Wishart: Λ0

υ=υ+DΛ=Λ+Λx

看起来不错,但是我一点也不自信,因为我在书本上和互联网上都找不到任何例子。

勘误表

Görur和Rasmussen建议在Wishart参数上使用这些优先级,但此等式:

ΛW(υ,Λ0)

应该改为:

ΛW(υ,Λ01)

因此解决了不足之处。如果我们想保留则应该将Inverse Wishart用作先验(请参见@西安的回答)Λ0

Answers:


5

两个密度的乘积 导致

p(Λ0|X,Λ,υ,D,Λx)W(Λ|υ,Λ0)W(Λ0|D,1DΛx)
p(Λ0|X,Λ,υ,D,Λx)|Λ0|υ/2exp{tr(Λ01Λ)/2}×|Λ0|(Dp1)/2exp{Dtr(Λx1Λ0)/2}|Λ0|(Dυp1)/2exp{tr(Λ01Λ+DΛx1Λ0)/2},

这似乎不是标准密度。为了保持各种共轭性,上正确的分层应类似于 Λ0
Λ0IW(Λ0|D,1DΛx).

1
感谢@ Xi'an!的提示,实际上,可能性中的参数应该是(我的错,请参见编辑)。我刚刚发布了答案,并保留了Wishart * Wishart。Λ01
alberto 2014年

6

好的,感谢@西安,我可以进行整个推导。我将在一般情况下编写它: ,其中是共轭的关键。如果要使用,则应为:

W(W|υ,S1)×W(S|υ0,S0)
S1S
W(W|υ,S)×IW(S|υ0,S0)

我正在做第一种情况(如果我错了,请纠正我):

W(W|υ,S1)×W(S|υ0,S0)|S|υ/2exp{12tr(SW)}×|S|υ0D12exp{12tr(S01S)}|S|υ+υ0D12exp{12tr((W+S01)S)}

在这里我们使用了的事实。通过检查,我们看到这是一个Wishart分布: tr(SW)=tr(WS)

p(S|)=W(υ+υ0,(W+S01)1)

扩展为平NW1...WN

对于我们有精度矩阵的情况,则似然成为似然的乘积,我们得到:NN

p(S|)=W(Nυ+υ0,(i=1NWi+S01)1)
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.