对于哪种分布,有一个标准差的封闭形式的无偏估计量?


16

对于正态分布,存在以下标准偏差的无偏估计量:

σ^unbiased=Γ(n12)Γ(n2)12k=1n(xix¯)2

这个结果之所以不太为人所知的原因似乎是,它很大程度上是一个古玩,而不是任何重要的事项。证明覆盖在这个线程上 ; 它利用了正态分布的关键属性:

1σ2k=1n(xix¯)2χn12

从那里开始,只需做一些工作,就可以期望,并通过将此答案识别为的倍数,我们可以得出。σ σ无偏E(k=1n(xix¯)2)σσ^unbiased

这让我很好奇,哪些其他分布具有标准差的闭合形式的无偏估计量。与方差的无偏估计器不同,这显然是特定于分布的。此外,要适应证明以找到其他分布的估计量,并非易事。

偏态正态分布的二次形式具有良好的分布特性,我们使用的正态分布特性实际上是一种特殊情况(因为正态是偏态正态的一种特殊类型),因此也许很难将此方法扩展到他们。但是对于其他分配,似乎需要一种完全不同的方法。

是否存在其他已知此类估计量的分布?


1
如果您忽略技术干扰,答案的性质就会更加清楚。在正常情况下,您所写的内容与结论并没有真正的关系。重要的是,该特定估计量中的偏差量仅是的函数(并且不依赖于需要从数据中估计的其他分布参数)。n
whuber

@whuber我想我可以看到您所暗示的一般想法,显然“函数”是必要的。但是我认为这还不够-如果我们无法获得一些不错的分布结果,那么我将看不到“封闭式”方面如何易于处理。n
银鱼

5
这取决于您所说的“封闭形式”。例如,一个人的theta函数可能是“封闭的”,而对另一个人来说,它只是无限的乘积,幂级数或复数积分。想一想,这就是Gamma函数:-)的确切含义。
ub

@whuber好点!通过“在这个特殊的估计偏差的量”,我想你的意思是,在偏置(而不是在问题,它具有零个偏置列出的估计)是一个功能(也包括,但幸运的是,我们可以轻松地重新排列以找到一个无偏估计量)?Ñ σsnσ
银鱼

1
@whuber:对于任何位置尺度族,都应该有一个类似的公式,需要指出的是,的函数可能是一个难解的积分。n
西安

Answers:


10

尽管这与问题没有直接关系,但彼得·比克尔(Peter Bickel)和埃里希·莱曼(Erich Lehmann)在1968年发表的一篇论文指出,对于凸分布族,存在一个泛函q F 的无偏估计量(对于样本量)ñ足够大)当且仅当q α ˚F + 1 - α G ^ 是多项式在0 α 1Fq(F)nq(αF+(1α)G)0α1。此定理不适用于此问题,因为高斯分布的集合不是凸的(高斯的混合不是高斯)。

结果在问题的扩展是,任何功率的标准偏差可以被无偏估计,提供有足够的观测时α < 0。这是从结果1得出的 σαα<0σ是用于标度(和唯一的)参数Σ Ñ ķ = 1X- ˉ X2

1σ2k=1n(xix¯)2χn12
σk=1n(xix¯)2

然后,该标准设置可被扩展到任何位置规模家族 具有有限方差σ 2。确实,

X1,,Xniidτ1f(τ1{xμ})
σ2
  1. 方差是唯一的函数τ ;
    varμ,τ(X)=Eμ,τ[(Xμ)2]=τ2E0,1[X2]
    τ
  2. 平方和
    Eμ,τ[k=1n(XiX¯)2]=τ2Eμ,τ[k=1nτ2(XiμX¯+μ)2]=τ2E0,1[k=1n(XiX¯)2]
    τ2ψ(n)
  3. Eμ,τ[{k=1n(XiX¯)2}α]=τ2αE0,1[{k=1n(XiX¯)2}α]

10

一个可能众所周知的案例,但是仍然是一个案例。
考虑连续均匀分布。给定一个iid样本,最大订单统计量X n 具有期望值U(0,θ)X(n)

E(X(n))=nn+1θ

分布的标准偏差为

σ=θ23

σ^=123n+1nX(n)

σ

这可以归纳为分布的下界也是未知的情况,因为我们可以为范围提供一个无偏估计量,然后标准偏差又是范围的线性函数(本质上也是如此)。

n


4
现在最困难的部分是:我们在世界上什么时候对均匀分布的标准偏差感兴趣?(+1)
Shadowtalker

1
@ssdecontrol这是一个很好的问题!-请继续下一个...
Alecos Papadopoulos

2
θ^

1
@Silverfish可怜以什么方式?一些快速的仿真显示,它的MSE比通常的标准偏差要低(这让我感到惊讶)。
戴夫

@戴夫有趣!我已经得出一个结论,那就是很糟糕,因为它只查看最大订单统计信息,但我也感到惊讶!显示了进行一些模拟的价值……
Silverfish
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.