最大似然和矩量法何时会产生相同的估计量?


17

前几天有人问我这个问题,以前从未考虑过。

我的直觉来自每个估算器的优势。最大似然最好是在我们对数据生成过程充满信心时进行,因为与矩量方法不同,它最大程度地利用了整个分布的知识。由于MoM估算器仅使用时刻中包含的信息,因此当我们尝试估算的参数的足够统计量恰好是数据时刻时,这两种方法似乎应产生相同的估算。

0θθ最高X1个Xñ

我以为这可能是指数族的怪癖,但是对于已知均值的拉普拉斯来说,足够的统计量是且方差的MLE和MoM估计量不相等。1个ñ|X一世|

到目前为止,我一般无法显示任何结果。有人知道一般情况吗?甚至是一个反例也可以帮助我改善直觉。


4
MM和MLE符合指数族中的规范参数。但是进行转换通常会意味着您失去了对等功能(西安的回答也表明了这一点)。
hejseb

Answers:


16

一个普遍的答案是,基于矩量方法的估计量不会因参数化的双射变化而不变,而最大似然估计量则不会变。因此,它们几乎永远不会重合。(几乎从不进行所有可能的转换。)

此外,如问题所述,MoM估计量很多。实际上,它们无限。但它们都是基于该经验分布,其可以被看作是一个非参数MLE ˚FF^F,虽然这并不涉及到这个问题。

实际上,解决问题的一种更合适的方法是询问矩估计量何时足够,但这会迫使数据的分布来自Pitman-Koopman引理的指数族,这种情况下答案已经存在众所周知。

注意:在拉普拉斯分布中,当均值已知时,该问题等同于观察绝对值,该绝对值随后是指数变量和指数族的一部分。


1
通常是否存在MM和MLE相等的参数化?
上行

1
对于指数族,均值参数化导致相等。在指数家庭之外,我不确定。
西安
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.