对于哪种分布,有一个标准差的封闭形式的无偏估计量?


16

对于正态分布,存在以下标准偏差的无偏估计量:

σ^unbiased=Γ(n−12)Γ(n2)12∑k=1n(xi−x¯)2

这个结果之所以不太为人所知的原因似乎是,它很大程度上是一个古玩,而不是任何重要的事项。证明覆盖在这个线程上 ; 它利用了正态分布的关键属性:

1σ2∑k=1n(xi−x¯)2∼χn−12

从那里开始,只需做一些工作,就可以期望,并通过将此答案识别为的倍数,我们可以得出。σ σ无偏E(∑k=1n(xi−x¯)2)σσ^unbiased

这让我很好奇,哪些其他分布具有标准差的闭合形式的无偏估计量。与方差的无偏估计器不同,这显然是特定于分布的。此外,要适应证明以找到其他分布的估计量,并非易事。

偏态正态分布的二次形式具有良好的分布特性,我们使用的正态分布特性实际上是一种特殊情况(因为正态是偏态正态的一种特殊类型),因此也许很难将此方法扩展到他们。但是对于其他分配,似乎需要一种完全不同的方法。

是否存在其他已知此类估计量的分布?


1
如果您忽略技术干扰,答案的性质就会更加清楚。在正常情况下,您所写的内容与结论并没有真正的关系。重要的是,该特定估计量中的偏差量仅是的函数(并且不依赖于需要从数据中估计的其他分布参数)。n
— whuber

@whuber我想我可以看到您所暗示的一般想法,显然“函数”是必要的。但是我认为这还不够-如果我们无法获得一些不错的分布结果,那么我将看不到“封闭式”方面如何易于处理。n
— 银鱼

5
这取决于您所说的“封闭形式”。例如,一个人的theta函数可能是“封闭的”,而对另一个人来说,它只是无限的乘积,幂级数或复数积分。想一想,这就是Gamma函数:-)的确切含义。
— ub

@whuber好点!通过“在这个特殊的估计偏差的量”,我想你的意思是,在偏置(而不是在问题,它具有零个偏置列出的估计)是一个功能(也包括,但幸运的是,我们可以轻松地重新排列以找到一个无偏估计量)?Ñ σsnσ
— 银鱼

1
@whuber:对于任何位置尺度族,都应该有一个类似的公式,需要指出的是,的函数可能是一个难解的积分。n
— 西安

Answers:


10

尽管这与问题没有直接关系,但彼得·比克尔(Peter Bickel)和埃里希·莱曼(Erich Lehmann)在1968年发表的一篇论文指出,对于凸分布族,存在一个泛函q (F )的无偏估计量(对于样本量)ñ足够大)当且仅当q (α ˚F + (1 - α )G ^ )是多项式在0 ≤ α ≤ 1Fq(F)nq(αF+(1−α)G)0≤α≤1。此定理不适用于此问题,因为高斯分布的集合不是凸的(高斯的混合不是高斯)。

结果在问题的扩展是,任何功率的标准偏差可以被无偏估计,提供有足够的观测时α < 0。这是从结果1得出的 σαα<0 即σ是用于标度(和唯一的)参数Σ Ñ ķ = 1(X我- ˉ X)2。

1σ2∑k=1n(xi−x¯)2∼χn−12
σ∑k=1n(xi−x¯)2

然后,该标准设置可被扩展到任何位置规模家族 具有有限方差σ 2。确实,

X1,…,Xn∼iidτ−1f(τ−1{x−μ})
σ2
  1. 方差是唯一的函数τ ;
    varμ,τ(X)=Eμ,τ[(X−μ)2]=τ2E0,1[X2]
    τ
  2. 平方和
    Eμ,τ[∑k=1n(Xi−X¯)2]=τ2Eμ,τ[∑k=1nτ−2(Xi−μ−X¯+μ)2]=τ2E0,1[∑k=1n(Xi−X¯)2]
    τ2ψ(n)
  3. Eμ,τ[{∑k=1n(Xi−X¯)2}α]=τ2αE0,1[{∑k=1n(Xi−X¯)2}α]

10

一个可能众所周知的案例,但是仍然是一个案例。
考虑连续均匀分布。给定一个iid样本,最大订单统计量X (n )具有期望值U(0,θ)X(n)

E(X(n))=nn+1θ

分布的标准偏差为

σ=θ23

σ^=123n+1nX(n)

σ

这可以归纳为分布的下界也是未知的情况,因为我们可以为范围提供一个无偏估计量,然后标准偏差又是范围的线性函数(本质上也是如此)。

n


4
现在最困难的部分是:我们在世界上什么时候对均匀分布的标准偏差感兴趣?(+1)
— Shadowtalker

1
@ssdecontrol这是一个很好的问题!-请继续下一个...
— Alecos Papadopoulos

2
θ^

1
@Silverfish可怜以什么方式?一些快速的仿真显示,它的MSE比通常的标准偏差要低(这让我感到惊讶)。
— 戴夫

@戴夫有趣!我已经得出一个结论,那就是很糟糕,因为它只查看最大订单统计信息,但我也感到惊讶!显示了进行一些模拟的价值……
— Silverfish
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.