为什么Fisher信息矩阵为正半定号?


18

让。Fisher信息矩阵的定义为:θRn

I(θ)i,j=E[2log(f(X|θ))θiθj|θ]

如何证明Fisher信息矩阵是正半定的?


7
这不是分数与其自身的乘积的期望值吗?
Neil G

Answers:


19

检查一下:http : //en.wikipedia.org/wiki/Fisher_information#Matrix_form

根据定义,我们有

Iij=Eθ[(ilogfXΘ(Xθ))(jlogfXΘ(Xθ))],
对于i,j=1,,k,其中i=/θi。在规则性条件下,您对一世一世Ĵ表达式来自于此表达式。

对于非ü=ü1个üķ[Rñ向量u =(u_1,\ dots,u_k)^ \ top \ in \ mathbb {R} ^ n,它来自于

一世Ĵ=1个ķü一世一世一世ĴüĴ=一世Ĵ=1个ķü一世Ëθ[一世日志FXΘXθĴ日志FXΘXθ]üĴ=Ëθ[一世=1个ķü一世一世日志FXΘXθĴ=1个ķüĴĴ日志FXΘXθ]=Ëθ[一世=1个ķü一世一世日志FXΘXθ2]0

如果此分量明智的表示法太丑陋,请注意,费舍尔信息矩阵可以写成,其中分数向量定义为 H=一世一世ĴH=Ëθ[小号小号]小号

小号=1个日志FXΘXθķ日志FXΘXθ

因此,我们有单线

üHü=üËθ[小号小号]ü=Ëθ[ü小号小号ü]=Ëθ[||小号ü||2]0。


3
(+1)好的答案,欢迎回来,Zen。我开始担心,鉴于您的中断时间长,我们可能会永久失去您。那真是太可惜了!
2013年

5

警告:不是一般性答案!

如果对应于一个完整的指数族,则对数似然的负Hessian是足够统计量的协方差矩阵。协方差矩阵始终是正半定的。由于Fisher信息是正半定矩阵的凸组合,因此它也必须是正半定矩阵。FX|θ

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.