总体R平方的无偏估计是多少?


14

我有兴趣在多元线性回归中获得的无偏估计。R2

通过反思,我可以想到的无偏估计可能试图匹配的两个不同值。R2

  1. 出样品的R2如果从样品获得的回归方程时得到的R平方(即)施加于外部的样本数据的无限量,但是从同一数据生成处理。β^
  2. 人口R2如果获得了一个无限样品并且装配到无穷大样品(即,模型时得到的R平方),或者只是R平方由已知数据生成处理暗示。β

我知道调整后的R2旨在补偿样品观察到的过拟合。尽管如此,现在还不清楚是否调整ř 2实际上是的无偏估计- [R 2,并且如果它是一个无偏估计,其中上述两个定义的R2R2R2它的目标是估计。R2

因此,我的问题是:

  • 我对以上所说的样本的无偏估计是多少 R2
  • 我所说的高于人口的无偏估计是多少 R2
  • 有没有提供模拟或其他证明无偏见的参考文献?

问题是什么公式的调整。R ^ 2的偏置较小,例如在这里
ttnphns

谢谢。我现在正在阅读您提到的参考资料:Yin,P.,&Fan,X.(2001)。在多元回归中估算收缩:不同分析方法的比较。实验教育杂志,69(2),203-224。R2
Jeromy Anglim

Answers:


14

对R平方的分析调整的评估

@ttnphns让我参考了Yin and Fan(2001)的文章,该文章比较了估算不同分析方法。根据我的问题,他们区分两种类型的估计量。他们使用以下术语:R2

  • :平方人口复相关系数的估计ρ2
  • :平方人口交叉有效性系数的估计ρc2

他们的结果摘要如下:

R2ρ2ρ2ρc2

ρ2

R^2=1(N3)(1R2)(Np1)[1+2(1R2)Np2.3]

其中N是样本数量,p是预测变量的数量。

R平方调整的经验估计

R2ρ2ρc2ρ2

参考文献

  • Kromrey,JD和Hines,CV(1995)。在多元回归中使用收缩率的经验估计值:警告。教育与心理测评,55(6),901-925。
  • R2
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.