Frisch-Waugh定理的效用

我应该教计量经济学的弗里什·沃夫定理，但我还没有研究过。

我已经了解了其背后的数学原理，也希望这个想法“如果您“消除”其他回归变量的影响，则从多重线性模型中为特定系数获得的系数等于简单回归模型的系数”。因此，理论上的想法有点酷。（如果我完全误解了，我欢迎您提出更正）

但是它有一些经典/实用用法吗？

编辑：我已经接受了一个答案，但仍然愿意有新的带来其他示例/应用程序。

— 安东尼·马丁
source

一个显而易见的将添加可变图？

— Silverfish

Dougherty的《计量经济学概论》提到了另一个使用Frisch-Waugh-Lovell定理的例子。在对时间序列进行计量经济学分析的早期，模型在变量具有确定性的时间趋势以在回归之前将所有趋势都去趋势化的模型中非常普遍。但是通过FWL，只需将时间趋势包括为回归变量，就可以得到相同的系数，而且，由于给出了1 df的消耗，因此给出了“正确的”标准误差。

— 银鱼

Dougherty确实会警告您不要执行该程序，因此在这方面，它不是一个很好的例子，尽管它是一个有启发性的例子。经济变量通常看起来像是平稳平稳的，而不是趋势平稳的，所以这种尝试的趋势下降是行不通的，并且可能导致虚假的回归。

— Silverfish

@Silverfish：FWL是一种纯粹的代数技术，因此在确定基本DGP的情况下提取确定性趋势是否“正确”的问题无疑很重要，但与FWL无关，因此从这个意义上讲，您的示例对于运营者对获取点估计的两种方式提出了质疑。

— Christoph Hanck

我在许多帖子中都利用了这种关系，主要是出于概念目的，并提供了有趣的回归现象示例。见，除其他外，stats.stackexchange.com/a/46508，stats.stackexchange.com/a/113207和stats.stackexchange.com/a/71257。

— ub

Answers:

考虑固定效果面板数据模型，也称为最小二乘虚拟变量（LSDV）模型。

$b_{LSDV}$ 可以通过将OLS直接应用于模型来计算其中是虚拟的虚拟矩阵，表示特定于个体的固定效果。

y = X β + D α + ϵ,

$y=X\beta+D\alpha+\epsilon,$

D

$D$

N T \times N

$NT\times N$

α

$\alpha$

计算另一种方法是将所谓的内部转换应用到常规模型中，以获得其简化版，即在这里，是回归的残差生成矩阵。 $b_{LSDV}$

M_{[D]} y = M_{[D]} X β + M_{[D]} ϵ .

$M_{[D]}y=M_{[D]}X\beta+M_{[D]}\epsilon.$

M_{[D]} = I - D (D^{'} D)^{- 1} D^{'}

$M_{[D]}=I-D(D'D)^{-1}D'$

D

$D$

根据Frisch-Waugh-Lovell定理，这两个等价，因为FWL表示您可以通过以下公式计算回归的回归系数子集（此处为）： $\hat\beta$

回归另一方面回归量（这里，），保存残差（在此，时间贬低或，因为在恒定的回归只是贬低的变量），那么 $y$ $D$ $y$ $M_{[D]}y$
使上的回归并保存残差，以及 $X$ $D$ $M_{[D]}X$
使残差彼此回归，上的。 $M_{[D]}y$ $M_{[D]}X$

第二个版本使用更为广泛，因为典型的面板数据集可能具有数千个面板单位，因此第一种方法将要求您使用数千个回归变量进行回归，即使在当今快速实现数字上也不是一个好主意。计算机，因为计算的逆数将非常昂贵，而时间确定和的成本却很小。 $N$ $(D :X)'(D: X)$ $y$ $X$

— 克里斯多夫·汉克
source

非常感谢，这是我一直在寻找的答案，尽管实际使用它有点先进。所以您的回答对我来说很好，但是如果我还有其他回答，我会很高兴，我应该接受您的回答吗？

— 安东尼·马丁

如果有帮助的话，这样做是适当的。但是接受将减少您获得更好答案的机会，因此您可以考虑等待接受此答案。赏金将进一步增加您获得更多答案的机会-鉴于简历中没有足够的用户定期回答给定问题数量的问题，即使是一个答案也可能导致其他活跃用户得出问题已得到解决的结论。（我确实在下面发布了一个更简单的答案。）

— Christoph Hanck

这是我的第一个答案的简化版本，我认为它的实用性较差，但可能更容易“出售”用于课堂。

回归和产生相同的，。可以看到如下：取，因此这样因此，常数上变量的回归残差

y_{i} = β_{1} + \sum_{j = 2}^{K} β_{j} x_{i j} + ϵ_{i}

$y_i = \beta_1 + \sum_{j=2}^K\beta_jx_{ij} + \epsilon_i$

y_{i} - \bar{y} = \sum_{j = 2}^{K} β_{j} (x_{i j} - {\bar{x}}_{j}) + {\tilde{ϵ}}_{i}

$y_i-\bar{y} = \sum^K_{j=2}\beta_j(x_{ij} - \bar{x}_j) + \tilde{\epsilon}_i$

{\hat{β}}_{j}

$\widehat{\beta}_j$

j = 2, \dots, K

$j=2,\ldots,K$

x_{1} = 1 := (1, \dots, 1)^{'}

$\mathbf{x}_1=\mathbf{1}:=(1,\ldots,1)'$

M_{1} = I - 1 (1^{'} 1)^{- 1} 1^{'} = I - \frac{1 1^{'}}{n},

$M_\mathbf{1}=I-\mathbf{1}(\mathbf{1}'\mathbf{1})^{-1}\mathbf{1}'=I-\frac{\mathbf{1}\mathbf{1}'}{n},$

M_{1} x_{j} = x_{j} - 1 n^{- 1} 1^{'} x_{j} = x_{j} - 1 {\bar{x}}_{j} =: x_{j} - {\bar{x}}_{j} .

$M_{\mathbf{1}}\mathbf{x}_j=\mathbf{x}_j-\mathbf{1} n^{-1}\mathbf{1}'\mathbf{x}_j=\mathbf{x}_j-\mathbf{1}\bar{x}_j=:\mathbf{x}_j-\bar{\mathbf{x}}_j.$

M_{1} x_{j}

$M_{\mathbf{1}}\mathbf{x}_j$ ，仅是已贬值的变量（相同的逻辑当然也适用于）。

y_{i}

$y_i$

— 克里斯多夫·汉克
source

这是另一种更间接的方法，但我认为很有趣，即计算固定时间序列的部分自相关系数的不同方法之间的联系。

定义1

考虑投影第个部分自相关等于。

{\hat{Y}}_{t} - μ = α_{1}^{(m)} (Y_{t - 1} - μ) + α_{2}^{(m)} (Y_{t - 2} - μ) + \dots + α_{m}^{(m)} (Y_{t - m} - μ)

$\begin{equation} \hat{Y}_{t}-\mu=\alpha^{(m)}_1(Y_{t-1}-\mu)+\alpha^{(m)}_2(Y_{t-2}-\mu)+\ldots+\alpha^{(m)}_m(Y_{t-m}-\mu) \end{equation}$

m

$m$

α_{m}^{(m)}

$\alpha^{(m)}_m$

因此，它给出了第个滞后对 \ emph {的控制}。将此与对比，得出和的“原始”相关性。 $m$ $Y_t$ $Y_{t-1},\ldots,Y_{t-m+1}$ $\rho_m$ $Y_t$ $Y_{t-m}$

我们如何找到？回想一下在回归变量上回归的基本属性是系数使得回归变量和残差不相关。然后，在总体回归中，根据群体相关性说明此条件。然后：解决我们发现线性投影的系数 应用此公式为和 $\alpha^{(m)}_j$ $Z_t$ $X_t$

E [X_{t} (Z_{t} - X_{t}^{⊤} α^{(m)})] = 0

$\begin{equation} E[X_t(Z_t-X_t^\top\mathbf{\alpha}^{(m)})]=0 \end{equation}$

α^{(m)}

$\mathbf{\alpha}^{(m)}$

α^{(m)} = [E (X_{t} X_{t}^{⊤})]^{- 1} E [X_{t} Z_{t}]

$\begin{equation} \mathbf{\alpha}^{(m)}=[E(X_tX_t^\top)]^{-1}E[X_tZ_t] \end{equation}$

Z_{t} = Y_{t} - μ

$Z_t=Y_t-\mu$

X_{t} = [(Y_{t - 1} - μ), (Y_{t - 2} - μ), \dots, (Y_{t - m} - μ)]^{⊤}

$X_t=[(Y_{t-1}-\mu),(Y_{t-2}-\mu),\ldots,(Y_{t-m}-\mu)]^\top$ 我们有另外，因此，

E (X_{t} X_{t}^{⊤}) = (\begin{array}{cccc} γ_{0} & γ_{1} & \dots & γ_{m - 1} \\ γ_{1} & γ_{0} & \dots & γ_{m - 2} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ γ_{m - 1} & γ_{m - 2} & \dots & γ_{0} \end{array})

$E(X_tX_t^\top)=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)$

E (X_{t} Z_{t}) = (\begin{matrix} γ_{1} \\ ⋮ \\ γ_{m} \end{matrix})

$E(X_tZ_t)=\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)$

α^{(m)} = {(\begin{array}{cccc} γ_{0} & γ_{1} & \dots & γ_{m - 1} \\ γ_{1} & γ_{0} & \dots & γ_{m - 2} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ γ_{m - 1} & γ_{m - 2} & \dots & γ_{0} \end{array})}^{- 1} (\begin{matrix} γ_{1} \\ ⋮ \\ γ_{m} \end{matrix})

$\begin{equation} \mathbf{\alpha}^{(m)}=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)^{-1}\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)\end{equation}$ \ gamma_ {0} \\ \ end {array} \ right）^ {-1} \ left（\ begin {array} {c} \ gamma_1 \\ \ vdots \\ \ gamma_m \\ \ end {array} \ right } \ end {equation} 然后，第个部分相关是向量的最后一个元素。

m

$m$

α^{(m)}

$\mathbf{\alpha}^{(m)}$

因此，我们进行了多元回归，找到了一个感兴趣的系数，而对其他感兴趣的系数进行了控制。

定义2

第个部分相关性是用预测的的预测误差与用预测的的预测误差的相关性。 $m$ $Y_{t+m}$ $Y_{t-1},\ldots,Y_{t-m+1}$ $Y_{t}$ $Y_{t-1},\ldots,Y_{t-m+1}$

因此，我们首先对中间滞后进行控制，然后计算残差的相关性。

— 克里斯多夫·汉克
source