了解岭回归结果


9

我是岭回归的新手。当我应用线性岭回归时,我得到以下结果:

>myridge = lm.ridge(y ~ ma + sa + lka + cb  + ltb , temp, lamda = seq(0,0.1,0.001))
> select(myridge)
modified HKB estimator is 0.5010689 
modified L-W estimator is 0.3718668 
smallest value of GCV  at 0 

问题:

  • 可以得到零GCV吗?
  • 这到底是什么意思?
  • 我的模型有问题吗?
  • 我如何找到 [R2myridge

将lamda更改为lambda。我认为您指定的顺序被忽略了。

Answers:


20

使用惩罚性软件包或glmnet软件包可能会更好。两者都实现套索或弹性网,因此结合了套索的属性(特征选择)和岭回归(处理共线变量)。被罚的也有山脊。这两个包更全功能比lm.ridge()MASS包这样的事情。

无论如何, λ=0表示零罚金,因此从它们具有最低GCV(广义交叉验证)分数的意义上来说,最小二乘估计值是最佳的。但是,您可能没有允许足够大的罚款。换句话说,最小二乘估计值是λ您看过的价值观。绘制山脊路径(系数值作为λ并查看迹线是否稳定。如果不是,请增加范围λ 评估值。


5

获得0 GCV的原因是因为您使用了:

myridge = lm.ridge(y〜ma + sa + lka + cb + ltb,temp,lamda = seq(0,0.1,0.001))

代替

myridge = lm.ridge(y〜ma + sa + lka + cb + ltb,temp,lambda = seq(0,0.1,0.001))

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.