我已经阅读了《应用线性统计模型》第5版第11章中对岭回归的描述。岭回归是根据此处可用的身体脂肪数据完成的。
教科书与SAS中的输出匹配,在拟合模型中反变换系数为:
从SAS显示为:
proc reg data = ch7tab1a outest = temp outstb noprint;
model y = x1-x3 / ridge = 0.02;
run;
quit;
proc print data = temp;
where _ridge_ = 0.02 and y = -1;
var y intercept x1 x2 x3;
run;
Obs Y Intercept X1 X2 X3
2 -1 -7.40343 0.55535 0.36814 -0.19163
3 -1 0.00000 0.54633 0.37740 -0.13687
但是R给出了非常不同的系数:
data <- read.table("http://www.cst.cmich.edu/users/lee1c/spss/V16_materials/DataSets_v16/BodyFat-TxtFormat.txt",
sep=" ", header=FALSE)
data <- data[,c(1,3,5,7)]
colnames(data)<-c("x1","x2","x3","y")
ridge<-lm.ridge(y ~ ., data, lambda=0.02)
ridge$coef
coef(ridge)
> ridge$coef
x1 x2 x3
10.126984 -4.682273 -3.527010
> coef(ridge)
x1 x2 x3
42.2181995 2.0683914 -0.9177207 -0.9921824
>
谁能帮我理解为什么?
我使用了相同的数据集,并在SPSS中对其进行了分析。结果类似于SAS。但是,如果我们可以像书中那样对数据进行标准化,则R和SPSS中的c = 0处的第一个值类似(运行多元线性回归)。但是,当我们如上所述进一步移动时,结果会大不相同。我也没有发现相同数据输出之间差异的任何线索。
—
asad 2014年