3
模型的Akaike信息标准（AIC）得分是什么意思？
我在这里看到了一些关于外行的含义的问题，但是对于我来说，这些对于我来说太过外行了。我试图从数学上理解AIC分数的含义。 但是同时，我也不想得到一个严格的证据，使我看不到更重要的观点。例如，如果这是微积分，那么我将对无穷小感到满意，而如果这是概率论，那么如果没有度量理论，我将感到满意。 我的尝试 通过在此处阅读以及我自己的一些表示法糖AICm,DAICm,D\text{AIC}_{m,D}是数据集D上模型的AIC准则，如下所示： AIC m ，D = 2 k m − 2 ln （L m ，D） 其中k m为模型m的参数个数，L m ，D是模型m在数据集D上的最大似然函数值。mmmDDDAICm,D=2km−2ln(Lm,D)AICm,D=2km−2ln(Lm,D) \text{AIC}_{m,D} = 2k_m - 2 \ln(L_{m,D}) kmkmk_mmmmLm,DLm,DL_{m,D}mmmDDD 这是我对上述含义的理解： m=arg maxθPr(D|θ)m=arg maxθPr(D|θ) m = \underset{\theta}{\text{arg max}\,} \Pr(D|\theta) 这条路： kmkmk_m是的参数数。mmm Lm,D=Pr(D|m)=L(m|D)Lm,D=Pr(D|m)=L(m|D)L_{m,D} = \Pr(D|m) = \mathcal{L}(m|D)。 现在让我们重写AIC： AICm,D===2km−2ln(Lm,D)2km−2ln(Pr(D|m))2km−2loge(Pr(D|m))AICm,D=2km−2ln(Lm,D)=2km−2ln(Pr(D|m))=2km−2loge(Pr(D|m))\begin{split} \text{AIC}_{m,D} =& 2k_m - …