可能范围


10

假设三个时间序列,和X1X2Y

上运行的普通线性回归〜(),我们得到。普通的线性回归〜得到。假设YX1Y=bX1+b0+ϵR2=UYX2R2=VU<V

什么是最小和最大的可能值上回归〜()?R2YX1+X2Y=b1X1+b2X2+b0+ϵ

我相信最小应该是 +一个小值,因为添加新变量总是会增加,但是我不知道如何量化这个小值,也不知道如何获得最大范围。R2VR2

Answers:


9

1)编辑:下面示出了基数的评论,该正确答案分钟的问题是。因此,我删除了我对OP帖子的那部分的“有趣”但最终不正确的答案。R2V

2)最大为1。请考虑以下示例,它适合您的情况。R2

x1 <- rnorm(100)
x2 <- rnorm(100)
y <- x1 + 2*x2

> summary(lm(y~x1))$r.squared
[1] 0.2378023                 # This is U
> summary(lm(y~x2))$r.squared
[1] 0.7917808                 # This is V; U < V
> summary(lm(y~x1+x2))$r.squared
[1] 1

在这里,我们将的方差固定为0。但是,如果您希望,则情况会有所变化。通过使越来越小,可以使任意接近1 ,但是,由于存在最小问题,您无法到达那里,因此没有最大值。1成为极值,因为它总是大于但它也是的极限。ϵσϵ2>0R2σϵ2R2σϵ20


2
(+1)条评论:这是一个很好的答案;有趣的是,您采用了一种渐近方法,但不清楚OP是否对此感兴趣,或者是否可能对某个固定感兴趣(或同时对两者)感兴趣。这个答案是与OP的约束有点不一致该,虽然,如果或对于一些例如,则最小为所有固定的样本大小完全相同。(打扰这些实施例的病理。)另外,OLS是必然在预测一致缺席额外的约束。:)nU<VX1=0X1=a1aRR2V:=V(n)
红衣主教

@cardinal-在重读时,我无法弄清楚为什么我对最小问题采用了这种方法,当现在看起来显然是正确的答案,并且正如您隐含地观察到的那样,我可以构造一个示例来实现此目标最大部分的静脉...哦,好吧,也许今天早上我的浓缩咖啡是无咖啡因的。(也许我也应该在发布之前更彻底地回顾我的答案!)V
jbowman 2012年

我认为您不应该删除自己写的内容,我确实找到了一种有趣的回答问题的方法!尽管我提到的病理学确实允许最小,但人们可能会想真正含义是什么。另一个示例可能并不十分病理,因为在此问题的一般版本中,它扩展到其中任何其他在其他预测变量的列空间中的情况。:)R2X1=0Xi
红衣主教2012年

1
@cardinal-谢谢!我将对其进行重构,也许再正式一点,然后将其放回底部。
jbowman 2012年

5

令等于和之间的相关性,等于和之间的相关性,而等于和之间的相关性。则整个模型的除以等于r1,2X1X2r1,YX1Yr2,YX2YR2V

(1(1r1,22))(12r1,2r1,Yr2,Y+UV).

所以为全模型等于仅当和或R2Vr1,2=0r1,Y2=U=0

r1,22=2r1,2r1,Yr2,YUV.

如果,为全模型等于。r1,2=0R2U+V


(+1)可爱。欢迎来到该网站。请考虑注册您的帐户,以便您可以更充分地参与。稍后,我将不得不更加仔细地研究这个表达式。:)
红衣主教

4

不受限制 UV,则最小值为 V,然后最大值是较小的 min(V+U,1)。这是因为两个可变可以完全相关(在这种情况下将所述第二变量不改变在所有的),或者它们可能是在这种情况下正交包括两个结果。在注释中正确指出,这还要求每个正交于(1s的列向量)。R2U+V1

您添加了约束。但是,仍然是可能的。也就是说,,在这种情况下,。最后,很有可能因此上限仍然是。U<VX1X2U=0X1Ymin=max=V+0X1X2min(V+U,1)

如果您对和之间的关系了解更多,我想您可以说更多。X1X2


1
(+1)但是,请注意,如果和是正交的,那么将它们各自的值相加时并不能(完全)正确。我们需要它们与全一向量正交。请注意,您可以在此站点上使用标记数学。:)X1X2R21LATEX
主教

那是真实的。非常感谢您的评论,并指出可以使用。我认为可以,但是尝试了mathjax样式的转义符(和[用于内联/等式。就像在TeX中一样写,就像是一种魅力:)LATEX
Joshua
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.