简单线性回归中截距和斜率的估计值是否独立?


9

考虑线性模型

yi=α+βxi+ϵi

并估计坡度和截距 α^β^使用普通的最小二乘法。此数学统计参考说明如下:α^β^ 是独立的(以他们的定理证明)。

我不确定我为什么。以来

α^=y¯β^x¯

这不是在说 α^β^有关系吗?我可能在这里错过了一些非常明显的东西。

Answers:


12

在以下子页面上转到相同的站点:

https://onlinecourses.science.psu.edu/stat414/node/278

您会更清楚地看到,他们指定了简单的线性回归模型,其中回归变量以样本均值为中心。这解释了为什么他们随后说α^β^ 是独立的。

对于使用居中的回归系数估算系数的情况,其协方差为

Cov(α^,β^)=σ2(x¯/Sxx),Sxx=(xi2x¯2)

因此,您会看到,如果我们使用以 x¯, 称它为 x~,上述协方差表达式将使用居中回归变量的样本均值, x¯~,它将为零,因此也将为零,并且系数估算器将是独立的。

这篇文章,包含更多有关简单线性回归OLS代数的内容。


我会考虑使用 Cov(α^,β^|X) 代替 Cov(α^,β^)。否则感觉x¯Sxx需要由人口对应者代替。还是我错了?
理查德·哈迪
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.