研究生学校是否过分强调了最小方差理论的无偏估计?


18

最近,当我给出一个关于均匀分布参数的最小方差无偏估计的结论时,我感到非常尴尬。幸运的是,红衣主教和亨利立即纠正了我,亨利为OP提供了正确的答案

这让我思考。大约37年前,我在斯坦福大学的数学研究生课程中学习了最佳无偏估计量的理论。我有Rao-Blackwell定理,Cramer-Rao下界和Lehmann-Scheffe定理的回忆。但是,作为一名应用统计学家,我对日常生活中的UMVUE的考虑并不多,而最大似然估计的出现却很多。

这是为什么?我们在研究生院是否过分强调UMVUE理论?我认同。首先,无偏不重要。许多完美的MLE都有偏差。斯坦因收缩估计量是有偏差的,但在均方误差损失方面占主导地位。这是一个非常漂亮的理论(UMVUE估计),但是非常不完整,我认为不是很有用。别人怎么看?


5
(+1)我同意这将对主站点提出一个很好的问题,并将对此进行投票。它有些主观,因此最好其作为CW问题。(而且,没有理由感到尴尬。)
红衣主教2012年

2
我认为一般而言,这种估计并不为过。我记得我的教授曾经更多地关注UMVUE是“傻”的例子。为了安全起见,人们倾向于使用属于流行理论的点估计量,但是有一个完整的方程估计理论。一些教授专注于UMVUE,因为它们是作业困难问题的良好来源。我认为,与找到UMVUE(并不总是存在)相比,如今减少偏见是一种更为流行和有用的理论。

2
我猜我们在UMVUE上看到很多问题,因为它们带来了很好的作业问题。也许与本科生和硕士学位相比,与博士课程相比,这更是一个问题。
Michael R. Chernick 2012年

3
好吧,UMVU估算是一个经典的主意,因此也许应该因为这个原因而被教导?这是讨论/批评公正性等标准的良好起点!仅仅因为它们在实践中使用不多,本身就没有理由不教它们。
kjetil b halvorsen 2012年

3
重点可能会随时间和部门而变化。我的部门在第一年的数学统计课程中介绍了该材料,但是在那之后它已经消失了,所以我不能合理地说它过分强调了(即使在博士推理课程中,通常也不会讲授它,而是推荐更多内容)尽管我希望更多地强调为什么偏见是有用的东西,因此为什么无偏估计是不必要的极端范式,但是贝叶斯和最小极大估计,可容许性和多元估计仍然是一个重要的时间。
家伙

Answers:


3

我们知道

如果是来自的随机样本,那么对于任何是的UE P ö 小号小号ø Ñ λ α ∈ 0 1 Ť α = α ˉ X + 1 - α š 2 λX1个X2XñPØ一世ssØñλα01个 Ťα=αX¯+1个-α小号2λ

因此,存在无限多个 UE 。现在出现一个问题,我们应该选择哪一个?所以我们称UMVUE。没有偏见并不是一个好的特性,但是UMVUE是一个好的特性。但这不是很好。λ

如果是的随机样本,则最小MSE估计器的形式为,其中参数是 但是有偏见的,尽管就最小MSE而言它不是UMVUE,但这不是最好的。 Ñ μ σ 2Ť α = α 小号2Ñ - 1 s ^ 2 = Σ Ñ = 1X - ˉ X2 σ 2 Ñ - 1X1个X2Xññμσ2Ťα=α小号2ñ-1个小号2=一世=1个ñX一世-X¯2σ2ñ-1个ñ+1个小号2=1个ñ+1个一世=1个ñX一世-X¯2

注意,饶-布莱克韦尔定理说,要找到UMVUE,我们只能集中于那些具有足够统计量的函数的UE, UMVUE是在具有充分统计量的函数的所有UE中具有最小方差的估计量。因此,UMVUE必然是足够统计量的函数。

从观点来看,MLE和UMVUE都不错。但是我们永远不能说其中之一比其他更好。在统计中,我们处理不确定和随机的数据。因此,总有改进的余地。我们可能会得到比MLE和UMVUE更好的估算器。

我认为我们在研究生院不会过分强调UMVUE理论,这纯粹是我个人的观点。我认为毕业阶段是学习阶段。因此,研究生必须要对UMVUE和其他估算器有一个良好的基础,


1
我认为任何有效的推理理论都是好知识。虽然无偏见可以是一个好属性,但偏见并不一定是坏的。当强调UMVUE时,可能会倾向于将“最优性”归因于UMVUE。但是在无偏估计量类别中可能没有任何非常好的估计量。准确性很重要,它涉及偏差和方差。关于MLE的更好之处在于,在某些情况下可以证明它是渐近有效的。
Michael R. Chernick

请注意,Rao-Blackwell定理也可用于改进任何有偏估计量,从而产生具有相同偏倚的改进估计量。
kjetil b halvorsen

2

也许布拉德·埃夫隆(Brad Efron)的论文“最大可能性和决策理论”可以帮助阐明这一点。布拉德提到,使用UMVUE的主要困难是它通常很难计算,并且在许多情况下不存在。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.