如何测试线性模型中的斜率是否等于固定值？

9

假设我们有一个简单的线性回归模型并且想针对一般替代性检验零假设。 $Z = aX + bY$ $H_0: a=b=\frac{1}{2}$

我认为可以使用和的估计值，并进一步应用检验来获得附近的置信区间。这个可以吗？ $\hat{a}$ $SE(\hat{a})$ $Z$ $\frac{1}{2}$

另一个问题与此密切相关。假设我们有一个样本并且我们计算了统计信息 $\{(x_1,y_1,z_1),\ldots ,(x_n,y_n,z_n) \}$ $\chi^2$

\sum_{一世 = 1个}^{ñ} \frac{（ ž_{一世} - \frac{X_{一世} + ÿ_{一世}}{2} ）^{2}}{\frac{X_{一世} + ÿ_{一世}}{2}} 。

$\begin{equation} \sum_{i=1}^n \frac{(z_i-\frac{x_i+y_i}{2})^2}{\frac{x_i+y_i}{2}}. \end{equation}$ 这些统计量可以用于检验相同的原假设吗？

hypothesis-testing regression

— 兰
source

8

在线性回归中，假设和不是随机变量。因此，模型 $X$ $Y$

Z = a X + b Y + ϵ

$Z = a X + b Y + \epsilon$

在代数上与

Z - \frac{1}{2} X - \frac{1}{2} Y = (a - \frac{1}{2}) X + (b - \frac{1}{2}) Y + ϵ = α X + β Y + ϵ .

$Z - \frac{1}{2} X - \frac{1}{2} Y = (a - \frac{1}{2})X + (b - \frac{1}{2})Y + \epsilon = \alpha X + \beta Y + \epsilon.$

在这里，和。错误项不受影响。拟合该模型，将系数分别估计为和，并以通常的方式检验假设。 $\alpha = a - \frac{1}{2}$ $\beta =b - \frac{1}{2}$ $\epsilon$ $\hat{\alpha}$ $\hat{\beta}$ $\alpha = \beta = 0$

问题末尾写的统计数字尽管与形式正式相似，但不是卡方统计。卡方统计量涉及计数而不是数据值，并且必须在其分母中具有期望值，而不是协变量。一个或多个分母可能为零（或接近零），表明此公式存在严重错误。如果这还不能令人信服，请考虑，和的度量单位可以是任何单位（例如drams，parsecs和pecks），这样这样的线性组合（通常）毫无意义。它没有测试任何东西。 $\frac{x_i+y_i}{2}$ $Z$ $X$ $Y$ $z_i - (x_i+y_i)/2$

— ub
source

1

感谢您的回答。这非常有用。实际上，我对问题第二部分的表述不是很精确。想象一下，xs和ys是正数，以相同单位度量。zs（观察到的结果）在某种意义上衡量了“相互作用”，即如果没有相互作用，则zs应该是（x + y）/ 2（预期结果）。因此，从我的角度来看，使用具有零假设a = b = 1/2的回归或使用Pearson的chi ^ 2统计量比较拟合优度是相同的。这有意义吗？谢谢！

— Lan

1

@Lan我认为Wolfgang的答案很好地说明了如何进行您建议的测试。这是“以通常的方式”检验假设的含义的一个例子。

— ub

9

您可以使用完全模型测试或简化模型测试来检验该假设。这是您的操作方式。首先，拟合模型 $Z = aX + bY$ 并从该模型中获得残差。将残差平方并求和。这是整个模型的平方误差总和。叫这个 $SSE_f$ 。接下来，计算 $Z - \hat{Z}$ 哪里 $\hat{Z} = 1/2*X + 1/2*Y$ 。这些是您在原假设下的残差。将它们平方并加总。这是简化模型的平方误差总和。叫这个 $SSE_r$ 。

现在计算：

F = $((SSE_r - SSE_f)/2) / (SSE_f / (n-2))$ ，

哪里 $n$ 是样本量。下 $H_0$ ，则此F统计量遵循具有 $2$ 和 $n-2$ 自由程度。

这是使用R的示例：

x <- rnorm(n)
y <- rnorm(n)
z <- 1/2*x + 1/2*y + rnorm(n) ### note I am simulating under H0 here

res <- lm(z ~ x + y - 1)
summary(res)
SSE.f <- sum(resid(res)^2)

zhat  <- 1/2*x + 1/2*y
SSE.r <- sum((z-zhat)^2)

F <- ((SSE.r - SSE.f) / 2) / (SSE.f / (n-2))
pf(F, 2, n-2, lower.tail=FALSE) ### this is the p-value

如果p值低于.05（如果您的 $\alpha$ 确实是.05）。

我假设您确实要让模型不包含拦截。换句话说，我假设您确实正在使用该模型 $Z = aX + bY$ 并不是 $Z = c + aX + bY$ 。

— 沃尔夫冈
source