非嵌套模型选择


13

似然比检验和AIC都是在两种模型之间进行选择的工具,并且两者均基于对数似然法。

但是,为什么AIC不能使用似然比检验在两个非嵌套模型之间进行选择?


Akaike自己认为AIC对于比较非嵌套模型很有用。请在此处查看我引用该帖子时引用的他的报价。
JonesBC

Answers:


20

LR(似然比)检验实际上是在检验参数的指定子集等于一些预先指定的值的假设。在选择模型的情况下,通常(但不总是)意味着某些参数等于零。如果模型是嵌套的,则较大模型中不在较小模型中的参数就是要测试的参数,其值隐式指定为从较小模型中排除的值。如果模型不是嵌套的,则您将不再进行测试,因为两个模型都具有其他模型中没有的参数,因此LR测试统计量没有它的渐近分布(通常)在嵌套情况下进行。χ2

另一方面,AIC不用于正式测试。它用于参数数量不同的模型的非正式比较。AIC表达式中的惩罚项是允许进行此比较的条件。但是,在进行模型比较时,没有对两个非嵌套模型的AIC之间的差异的渐近分布的函数形式进行假设,并且两个AIC之间的差异也未视为检验统计量。

我还要补充一点,在AIC与非嵌套模型一起使用方面存在一些分歧,因为该理论是为嵌套模型制定的。因此,我强调“非...正式”和“非...测试统计”。我将其用于非嵌套模型,但不是以一种固定的方式使用,更多地是将其作为重要但并非唯一的输入模型构建过程中。


@Carl-详细说明在您引用的注释之前的两个注释中。我认为您应该听gung的建议-发表问题并回答。在这种情况下,这是一件公平的事情,其他人对于“参考问题”也做了类似的事情。刚听完您的回答,我会赞成。
jbowman '18 -10-3

我接受了建议,新的问答在这里。顺便说一句,我赞成你的问题(和公认的答案),因为它使我思考,而不是因为我完全同意。我的问题是,仅当满足许多其他通常被忽略的条件时,AIC才能比较非嵌套模型的假设才成立。
卡尔,

9

将AIC推导为Kullback-Leibler信息损失的估计量,不会假设模型被嵌套。


2
但是Akaike确实假设模型是在相同数据上构建的。
DWin 2015年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.