多元回归中的“其他所有条件”是什么意思？

当我们这样做多元回归，说我们正在寻找在平均变化在一个变化的变量变量，保存了在其他变量不变，什么值，我们持有的其他变量不变？他们的意思是？零？有什么价值吗？ $y$ $x$

我倾向于认为它具有任何价值。只是在寻求澄清。如果有人有证明，那也将是一件好事。

— 经济统计
source

我发现彼得·肯尼迪（Peter Kennedy）的论文中的示例10 对理解这一点非常有帮助。

— Dimitriy V. Masterov 2014年

是的，在保持平方英尺不变的情况下增加房间数量确实是一个观察点。那篇论文实际上是有用想法的金矿，它在博士笔记中提到。

— EconStats

这实际上是一个非常有趣的问题，我想知道经济学家是否会问自己“ ceteris paribus”到底是什么意思。

— 莫肯

你是对的。从技术上讲，它是任何价值。但是，当我讲授这些内容时，我通常会告诉人们，当所有其他变量都保持各自的均值时，您将获得单位变化的效果 $X_j$ 。我认为这是一种常见的解释方式，并不专门针对我。

我通常一提的是，如果你没有任何的互动， $\beta_j$ 将在一个单位变化的影响 $X_j$ ，不管你的其他变量的值。但是我喜欢从刻薄的表述开始。原因是在回归模型中包含多个变量有两个影响。首先，您将获得 $X_j$ 控制其他变量的效果（请参阅此处的答案）。第二个是其他变量的存在（通常）会减少模型的残差，从而使您的变量（包括 $X_j$ ）“更重要”。如果其他变量的值遍地都是，人们很难理解它是如何工作的。似乎它将以某种方式增加可变性。如果您考虑针对每个其他变量的值向上或向下调整每个数据点，直到将其余所有 $X$ 变量都移至各自的均值，则很容易看到残差减小。

在介绍了多元回归的基础之后，直到一两堂课我才开始互动。但是，当我接触到它们时，我将回到本资料。当没有交互时，以上适用。如果存在交互，则更加复杂。在那种情况下，相互作用变量（非常明确地）保持为不变，没有其他值。 $0$

如果您想看一下这是如何代数运算的，那很简单。我们可以从没有互动的情况开始。让我们确定的变化当所有其他变量都在各自的方式保持不变。不失一般性，让我们说，有三种变量，我们感兴趣的是了解如何在变化与在一个单位的变化相关联的，持有和恒定在各自的手段： $\hat Y$ $X$ $\hat Y$ $X_3$ $X_1$ $X_2$

\begin{aligned} {\hat{Y}}_{i} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} X_{3 i} \\ {\hat{Y}}_{i^{'}} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) \\ subtracting the first equation from the second: \\ {\hat{Y}}_{i^{'}} - {\hat{Y}}_{i} & = {\hat{β}}_{0} - {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} - {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} - {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) - {\hat{β}}_{3} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} X_{3 i} + {\hat{β}}_{3} - {\hat{β}}_{3} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} \end{aligned}

$\begin{align} \hat Y_i &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3X_{3i} \\ \hat Y_{i'} &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) \\ ~ \\ &\text{subtracting the first equation from the second:} \\ ~ \\ \hat Y_{i'} - \hat Y_i &= \hat\beta_0 - \hat\beta_0 + \hat\beta_1\bar X_1 - \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 - \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) - \hat\beta_3X_{3i} \\ \Delta Y &= \hat\beta_3X_{3i} + \hat\beta_3 - \hat\beta_3X_{3i} \\ \Delta Y &= \hat\beta_3 \end{align}$

现在很明显，我们只要在两个方程中都为（）设置相同的值可以在和中输入任何值。也就是说，只要我们保持和不变。 $X_1$ $X_2$ $X_1$ $X_2$ $X_1$ $X_2$

另一方面，如果进行交互，则无法通过这种方式解决。在这里，我展示了一个交互项的情况： $X_1X_3$

\begin{aligned} {\hat{ÿ}}_{一世} & = {\hat{β}}_{0} + {\hat{β}}_{1个} {\bar{X}}_{1个} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} X_{3 一世} + {\hat{β}}_{4} {\bar{X}}_{1个} X_{3 一世} \\ {\hat{ÿ}}_{{一世}^{'}} & = {\hat{β}}_{0} + {\hat{β}}_{1个} {\bar{X}}_{1个} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} （ X_{3 一世} + 1个 ） + {\hat{β}}_{4} {\bar{X}}_{1个} （ X_{3 一世} + 1个 ） \\ 从第二个方程中减去第一个方程： \\ {\hat{ÿ}}_{{一世}^{'}} - {\hat{ÿ}}_{一世} & = {\hat{β}}_{0} - {\hat{β}}_{0} + {\hat{β}}_{1个} {\bar{X}}_{1个} - {\hat{β}}_{1个} {\bar{X}}_{1个} + {\hat{β}}_{2} {\bar{X}}_{2} - {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} （ X_{3 一世} + 1个 ） - {\hat{β}}_{3} X_{3 一世} + \\ {\hat{β}}_{4} {\bar{X}}_{1个} （ X_{3 一世} + 1个 ） - {\hat{β}}_{4} {\bar{X}}_{1个} X_{3 一世} \\ Δ ÿ & = {\hat{β}}_{3} X_{3 一世} + {\hat{β}}_{3} - {\hat{β}}_{3} X_{3 一世} + {\hat{β}}_{4} {\bar{X}}_{1个} X_{3 一世} + {\hat{β}}_{4} {\bar{X}}_{1个} - {\hat{β}}_{4} {\bar{X}}_{1个} X_{3 一世} \\ Δ ÿ & = {\hat{β}}_{3} + {\hat{β}}_{4} {\bar{X}}_{1个} \end{aligned}

$\begin{align} \hat Y_i &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3X_{3i} \quad\quad\ \! + \hat\beta_4\bar X_1X_{3i} \\ \hat Y_{i'} &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) + \hat\beta_4\bar X_1(X_{3i}\!+\!1) \\ ~ \\ &\text{subtracting the first equation from the second:} \\ ~ \\ \hat Y_{i'} - \hat Y_i &= \hat\beta_0 - \hat\beta_0 + \hat\beta_1\bar X_1 - \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 - \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) - \hat\beta_3X_{3i} + \\ &\quad\ \hat\beta_4\bar X_1(X_{3i}\!+\!1) - \hat\beta_4\bar X_1X_{3i} \\ \Delta Y &= \hat\beta_3X_{3i} + \hat\beta_3 - \hat\beta_3X_{3i} + \hat\beta_4\bar X_1 X_{3i} + \hat\beta_4\bar X_1 - \hat\beta_4\bar X_1X_{3i} \\ \Delta Y &= \hat\beta_3 + \hat\beta_4\bar X_1 \end{align}$

在这种情况下，不可能保持所有其他常量不变。因为交互作用项是和的函数，所以如果交互作用项也不变，则不可能更改。因此等于在变化与一个单位的变化相关联的在 $X_1$ $X_3$ $X_3$ $\hat\beta_3$ $\hat Y$ $X_3$ ，只有当相互作用变量（）在保持代替（或任何其他值，但），在这种情况底部等式中的最后一项消失了。 $X_1$ $0$ $\bar X_1$ $0$

在此讨论中，我将重点放在交互上，但是更广泛地说，问题是当存在任何变量是另一个变量的函数时，如果不更改另一个变量的相应值就无法更改第一个变量的值。在这种情况下，意义变得更加复杂。例如，如果你有与模型和，然后是微分 $\hat\beta_j$ $X_j$ $X_j^2$ $\hat\beta_j$ 保持所有其他相等，并保持（请参阅此处的答案）。其他更复杂的配方也是可能的。 $\frac{dY}{dX_j}$ $X_j=0$

— gung-恢复莫妮卡
source

感谢gung，这个答案在几个层面上都是不错的。首先，它回答了我感兴趣的要点。其次，您预测了我的后续问题是什么，因为我将要问问，随着交互作用术语的引入，这将如何变化。还要感谢数学。我知道这个问题有点基本，但我觉得您永远不能对这些概念过于明确。

— EconStats 2014年

不客气，@ EconStats。包括数学没有问题，有时它可以使您更轻松地了解正在发生的事情。

— gung-恢复莫妮卡

好吧，我不得不说，当您从第二个方程式中减去第一个方程式时，它最终证实了我最初的想法，只要两个方程式中的

和

的值相同，都无关紧要。对我来说似乎很明显，但是我以前从未想过以这种方式计算

。绝对是我的灯泡时刻。

X_{2}

$X_2$

X_{3}

$X_3$

β

$\beta$

— EconStats

您还可以采用

wrt

的导数，它将带您到同一地方，但这是更容易的数学运算（本质上是高中代数），因此可以为更多的读者所用。

Y

$Y$

X_{j}

$X_j$

— gung-恢复莫妮卡

@beetroot，如果我对您的理解正确，则只需将其保持在指定级别即可。（否则，您可能会提出一个新问题。）

— gung-恢复莫妮卡

数学很简单，只需将x变量之一更改为1的2个模型之间的差值，您就会发现其他变量的大小无关紧要（假设没有相互作用，多项式或其他复杂项）。

一个例子：

$y_{[1]} = b_0 + b_1 \times x_1 + b_2 \times x_2$

$y_{[2]} = b_0 + b_1 \times (x_1 + 1) + b_2 \times x_2$

$y_{[2]} - y_{[1]} = b_0 - b_0 + b_1\times x_1 - b_1\times x_1 + b_1 \times 1 + b_2 \times x_2 - b_2 \times x_2 = b_1$

— 格雷格·雪诺
source

我相信您指的是协变量（）的依赖性。因此，如果该模型是的效果上所有其他条件都相同。将 $X_i$

Y = β_{0} + β_{1} X_{1} + β_{2} X_{2}

$Y=\beta_{0}+\beta_{1}X_1+\beta_{2}X_2$

X_{i}

$X_i$

Y

$Y$

任何

与所有其它

在任何值保持恒定。

\frac{Δ Y}{Δ X_{i}}

$\frac{\Delta{Y}}{\Delta{X_i}}$

Δ X_{i}

$\Delta{X_i}$

X_{j}

$X_j$

$X_1$ $X_2$ $\beta_{12}=0$ $Y=\beta_{0}+\beta_{1}X_1+\beta_{2}X_2+\beta_{12}X_1X_2$

$X_1\sim N(0,\sigma_1^2)$ $X_2=X_1^{2}+N(0,\sigma_2^2)$ $X_1$ $X_2$

c o v (X_{1}, X_{2}) = E (X_{1} X_{2}) - E (X_{1}) E (X_{2})

$cov(X_1,X_2)=E(X_1X_2)-E(X_1)E(X_2)$

= E [X_{1} (X_{1}^{2} + a)] - E (X_{1}) . E (X_{1}^{2} - a) w i t h a \sim N (0, σ_{2}^{2})

$=E[X_1(X_1^2+a)]-E(X_1).E(X_1^2-a)\,with\,a\sim N(0,\sigma_2^2)$

= Ë （ X_{1个}^{3} ） - Ë （ X_{1个} 。 一种 ） - 0。 Ë （ X_{1个}^{2} - 一种 ） = 0 - 0 - 0 = 0

$=E(X_1^3)-E(X_1.a)-0.E(X_1^2-a)=0-0-0=0$

$X_1$ $X_2$ $\frac{\Delta{Y}}{\Delta{X_i}}$ $X_1$ $\frac{\Delta{Y}}{\Delta{X_i}}$ $X_i$ $Y$

$\frac{\Delta{Y}}{\Delta{X_i}}$

— 汉斯·罗格曼
source

谢谢汉斯，我实际上是想了解gung提出的观点，但这是两个变量相互依赖的一个很好的例子。

— EconStats