最大似然估计值不一致的示例


13

我正在阅读一篇论文的评论,并且作者指出,有时,即使估计值(通过ML或最大拟似然法得出)可能不一致,但似然比或拟似然比检验的功效仍然可以收敛到1,因为观察到的数据数量趋于无穷大(测试一致性)。如何以及何时发生?你知道一些书目吗?


什么是LR和QLR?
gung-恢复莫妮卡

似然比和准似然比测试;)
一位老人在海里。

除一点以外,其他所有地方的功率均应变为1。您将没有的是名义上的1类错误率。
Glen_b-恢复莫妮卡2014年

@Glen_b,能否请您详细说明一下?谢谢;)
一位老人在海里。

@Glen_b,不幸的是,没有,维基似乎也没有条目……
一位海中老人。

Answers:


10

[我认为这可能是您所讨论问题的一种示例。]

ML估计量不一致的例子有很多。不一致通常在各种稍微复杂的混合问题和检查问题中看到。

[测试的一致性基本上只是对于(固定)错误假设的测试功效增加为。]n

拉德福德·尼尔(Radford Neal)在他的博客条目2008-08-09中给出了一个示例:最大似然估计的不一致:一个“普通”示例。它涉及到参数的估计在:θ

X | θ    (1/2)N(0,1) + (1/2)N(θ,exp(1/θ2)2)

(尼尔使用其中I具有θ),其中的ML估计θ将趋于0作为ñ →交通(实际上的可能性可以是远高于峰值接近0比为相当有限的样本大小的真值)。尽管如此,在真实值θ附近有一个峰,它比在0 附近的峰小。tθθ0nθ

现在想象一下与这种情况有关的两个案例:

a)进行的似然比检验,备择ħ 1θ < θ 0 ;H0:θ=θ0H1:θ<θ0

b)进行的似然比检验,备择ħ 1θ θ 0H0:θ=θ0H1:θθ0

在情形(a),假设真实(使得替代是真实的,0是真正的另一侧θ)。然后,尽管这一事实的可能性非常接近于0将超过在的,可能但超过的可能性即使在小样本,比例将继续增长,因为更大的,以使似然比测试中的拒绝概率变为1。θ<θ00θθ θ 0 Ñ →交通θθθ0n

的确,即使在情况(b)中,只要固定且远离边界,也应该存在这样的可能性,即似然比将以使似然比测试中的拒绝概率也增大的方式增长方法1。 0θ00

因此,这似乎是ML估计不一致的一个示例,尽管LRT的为1(时除外)。θ0=0

[请注意,whuber的答案中实际上还没有什么东西,我认为这是一个清晰的例子,并且对于理解测试一致性和估计量一致性之间的区别要简单得多。在特定示例中不一致的估计量不是ML的事实,就了解差异而言并没有多大关系-引入一个专门针对ML的不一致的估计量-正如我在此处尝试做的-并没有真正改变任何实质性解释。该示例的唯一真实之处在于,我认为它解决了您对使用ML估计器的担忧。]


感谢Glen的回答。尽管如此,我仍然有一个问题。问题是,通常在证明LRT的极限分布为卡方的证明中,假设ML估计量是一致的。在您的情况下,当极限分布未知时,您如何证明增加的似然比会使拒绝概率变为1?还是已知?
一位老人在海里。

要使似然比检验统计量无限制地增长,您需要做的就是使分子中值处的可能性比分母中的增长更快。从链接讨论中我的理解是Neal暗示这样做了,但是我没有实际检查细节。我认为没有充分的理由断言该测试具有卡方分布。根据您在问题中提供的很少信息,我的假设是,所描述的测试就像渐进卡方一样进行,但是...(ctd)θ
Glen_b -Reinstate Monica 2014年

(ctd)...您必须询问所描述评论的作者,这是否是他们的意思。
Glen_b-恢复莫妮卡2014年

实际上,我所说的并不完全正确,因为分子的增长速度可能比分母快,但比率却无止境地增长(从某种意义上说,两者的比率可能会增长但有界)。我应该说诸如“足够快”之类的话。
Glen_b-恢复莫妮卡2014年

8

令从正态分布中抽取。考虑估计量μ 1 (Xn)(μ,1)

T(x1,,xn)=1+x¯=1+1ni=1nxn.

的分布是普通。它收敛到,表明它是不一致的。μ + 1 1 / T(X1,,Xn)=1+X¯μ+1μ(μ+1,1/n)μ+1μ

在假设与一个简单的假设,对数似然比将与基于而不是的LLR完全相同。(实际上,是有用的零假设比较到备择假设)。由于基于平均测试有功率收敛到为任何测试大小和任何效果大小,使用本身的测试功效也收敛为。 μ = μ ˉ X Ť Ť μ + 1 = μ 0 + 1 μ + 1 = μ + 1 1 α > 0 Ť 1μ=μ0μ=μAX¯TTμ+1=μ0+1μ+1=μA+11α>0T1


感谢您对这个问题的关注。在更一般的环境中,我们如何确保测试的一致性?我正在寻找一个更通用的答案,而不是一个特定的案例。还有一些参考书目(如果有)。谢谢;)
一位老人在海里。

同样,我可能错了,但是估计器T似乎不是ML估计器。问题是“什么时候我们具有测试一致性,什么时候ML估计量或最大拟似然估计量不一致?”
一位老人在海里。

我编辑了这个问题,因为它可能不清楚我想要什么。抱歉;)
一位老人在海里。
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.