IV-probit的似然函数的推导

因此，我有一个二元模型，其中是潜在的不可观察变量，而在观察值中。确定，因此是我的工具。简而言之，模型就是这样。由于错误项不是独立的，所以我使用了IV-probit模型。 $y_1^*$ $y_1 \in \{0,1\}$ $y_2$ $y_1$ $z_2$

\begin{array}{rcl} y_{1}^{*} & = & δ_{1} z_{1} + α_{1} y_{2} + u_{1} \\ y_{2} & = & δ_{21} z_{1} + δ_{22} z_{2} + v_{2} = z δ + v_{2} \\ y_{1} & = & 1 [y^{*} > 0] \end{array}

$\begin{eqnarray} y_1^*&=& \delta_1 z_1 + \alpha_1 y_2 + u_1 \\ y_2 &=& \delta_{21} z_1 + \delta_{22}z_2 + v_2 = \textbf{z}\delta + v_2 \\ y_1 &=& \text{1}[y^*>0] \end{eqnarray}$

\begin{array}{rcl} (\begin{matrix} u_{1} \\ v_{2} \end{matrix}) \sim N (0, [\begin{matrix} 1 & η \\ η & τ^{2} \end{matrix}]) . \end{array}

$\begin{eqnarray} \begin{pmatrix} u_1 \\ v_2 \end{pmatrix} \sim \mathcal{N} \left(\textbf{0} \; , \begin{bmatrix} 1 &\eta \\ \eta &\tau^2 \end{bmatrix} \right). \nonumber \end{eqnarray}$

我在推导似然函数时遇到麻烦。我知道我可以将其中一个误差项写为另一个误差项的线性函数，因此

\begin{array}{rcl} u_{1} = \frac{η}{τ^{2}} v_{2} + ξ, where ξ \sim N (0, 1 - η^{2}) . \end{array}

$\begin{eqnarray} u_{1} = \frac{\eta}{\tau^2}v_{2} + \xi, \qquad \text{where} \quad \xi \sim \mathcal{N}(0, 1-\eta^2). \end{eqnarray}$
并且应该使用

ξ

$\xi$ 来施加正常的CDF。

我查看了Stata手册（http://www.stata.com/manuals13/rivprobit.pdf）中的IV-probit，他们建议使用条件密度

\begin{array}{rcl} f (y_{1}, y_{2} ∣ z) = f (y_{1} ∣ y_{2}, z) f (y_{2} ∣ z) \end{array}

$\begin{eqnarray} f(y_1, y_2 \mid \textbf{z}) = f(y_1 \mid y_2, \textbf{z}) f(y_2 \mid \textbf{z}) \end{eqnarray}$
以得出似然函数，但我真的不知道使用它（是的，我最终得到了错误的结果...）。到目前为止，我的尝试是

\begin{array}{rcl} 大号 （ ÿ_{1个} ） & = & \prod_{一世 = 1个}^{ñ} 镨 （ ÿ_{1个} = 0 ∣ ÿ_{2} ， ž ）^{1个 - ÿ_{1个}} 镨 （ ÿ_{1个} = 1个 ∣ ÿ_{2} ， ž ）^{ÿ_{1个}} \\ = & \prod_{一世 = 1个}^{ñ} 镨 （ ÿ_{1个}^{*} \leq 0 ）^{1个 - ÿ_{1个}} （ 镨 （ ÿ_{1个}^{*} > 0 ） F （ ÿ_{2} ∣ ž ） ）^{ÿ_{1个}} \\ [标准化] & = & \prod_{一世 = 1个}^{ñ} 镨 （ \frac{ξ}{\sqrt{1个 - η^{2}}} \leq - \frac{δ_{1个} ž_{1个} + α_{1个} ÿ_{2} + \frac{η}{τ^{2}} （ ÿ_{2} - ž ）}{\sqrt{1个 - η^{2}}} ）^{1个 - ÿ_{1个}} \\ \cdot & （ 镨 （ \frac{ξ}{\sqrt{1个 - η^{2}}} < \frac{δ_{1个} ž_{1个} + α_{1个} ÿ_{2} + \frac{η}{τ^{2}} （ ÿ_{2} - ž ）}{\sqrt{1个 - η^{2}}} ） F （ ÿ_{2} ∣ ž ） ）^{ÿ_{1个}} \\ = & [1个 - Φ （ w ）]^{1个 - ÿ_{一世}} {[Φ （ w ） F （ ÿ_{2} ∣ X ）]}^{ÿ_{1个}} \end{array}

$\begin{eqnarray} \mathcal{L}(y_1) &=& \prod_{i=1}^n \Pr(y_1=0 \mid y_2, \textbf{z} )^{1-y_1} \Pr(y_1=1 \mid y_2, \textbf{z} )^{y_1} \nonumber \\ &=& \prod_{i=1}^n \Pr(y_1^* \leq 0)^{1-y_1} \Big(\Pr(y_1^* > 0) f(y_2 \mid \textbf{z}) \Big)^{y_1} \nonumber \\ \text{[standardizing]} &=& \prod_{i=1}^n \Pr \Big( \frac{\xi}{\sqrt{1-\eta^2}} \leq - \frac{\delta_1 z_1 + \alpha_1 y_2 + \frac{\eta}{\tau^2}(y_2 - \textbf{z})}{\sqrt{1-\eta^2}}\Big)^{1-y_1} \\ &\cdot& \Big(\Pr \Big( \frac{\xi}{\sqrt{1-\eta^2}} < \frac{\delta_1 z_1 + \alpha_1 y_2 + \frac{\eta}{\tau^2}(y_2 - \textbf{z})}{\sqrt{1-\eta^2}}\Big) f(y_2 \mid \textbf{z}) \Big)^{y_1} \nonumber \\ &=& [1-\Phi(w)]^{1-y_i} \left[ \Phi(w)f(y_2 \mid \textbf{x}) \right]^{y_1} \end{eqnarray}$ 正如我所说，我没有使用如上所述的关节密度函数的定义。此外，我最终还把

f (y_{2} ∣ z)

$f(y_2 \mid \textbf{z})$ 提升到

y_{1}

$y_1$ ，这似乎是错误的。有人可以提示我如何得出正确的（对数）似然函数或我哪里出错了吗？

maximum-likelihood econometrics probit

— 切德洛夫
source

请记住，对于二元正态变量的条件分布给出是

（ \begin{matrix} X \\ ÿ \end{matrix} ） 〜 ñ （ [\begin{matrix} μ_{X} \\ μ_{ÿ} \end{matrix}] ， [\begin{matrix} σ_{X}^{2} & ρ σ_{X} σ_{ÿ} \\ ρ σ_{X} σ_{ÿ} & σ_{ÿ}^{2} \end{matrix}] ） ，

$\begin{pmatrix}X \\ Y\end{pmatrix}\sim\mathcal{N}\left(\begin{bmatrix}\mu_X\\\mu_Y\end{bmatrix}, \begin{bmatrix}\sigma_X^2 & \rho\sigma_X\sigma_Y\\\rho\sigma_X\sigma_Y & \sigma_Y^2\end{bmatrix}\right),$

Y

$Y$

X

$X$

ÿ ∣ X 〜 ñ （ μ_{ÿ} + ρ σ_{ÿ} \frac{X - μ_{X}}{σ_{X}} ， σ_{ÿ} [1个 - ρ^{2}] ） 。

$Y\mid X \sim \mathcal{N}\left(\mu_Y+\rho\sigma_Y\frac{X-\mu_X}{\sigma_X},\sigma_Y\left[1-\rho^2\right]\right).$

在当前情况下，我们有表示其中（这是您的第一个错误）

\begin{aligned} ü_{1个} ∣ v_{2} & 〜 ñ （ 0 + \frac{η}{1个 \cdot τ} \cdot 1个 \frac{v_{2} - 0}{τ} ， 1个 \cdot [1个 - {（ \frac{η}{1个 \cdot τ} ）}^{2}] ） \\ = ñ （ \frac{η}{τ^{2}} v_{2} ， 1个 - \frac{η^{2}}{τ^{2}} ） ， \end{aligned}

$\begin{align} u_1 \mid v_2 &\sim \mathcal{N}\left(0+\frac{\eta}{1\cdot\tau}\cdot1\frac{v_2-0}{\tau}, 1\cdot\left[1-\left(\frac{\eta}{1\cdot\tau}\right)^2\right] \right) \\ &= \mathcal{N}\left(\frac{\eta}{\tau^2}v_2, 1-\frac{\eta^2}{\tau^2} \right), \end{align}$

ü_{1个} = \frac{η}{τ^{2}} v_{2} + ξ

$u_1=\frac{\eta}{\tau^2}v_2+\xi$

ξ 〜 ñ （ 0 ， 1个 - \frac{η^{2}}{τ^{2}} ） 。

$\xi\sim\mathcal{N}\left(0,1-\frac{\eta^2}{\tau^2}\right).$

因此，我们可以重写第一个方程

\begin{aligned} ÿ_{1个}^{*} & = δ_{1个} ž_{1个} + α_{1个} ÿ_{2} + ü_{1个} \\ = δ_{1个} ž_{1个} + α_{1个} ÿ_{2} + \frac{η}{τ^{2}} v_{2} + ξ \\ = δ_{1个} ž_{1个} + α_{1个} ÿ_{2} + \frac{η}{τ^{2}} （ ÿ_{2} - ž δ ） + ξ 。 \end{aligned}

$\begin{align} y_1^* &= \delta_1 z_1 + \alpha_1 y_2 + u_1 \\ &= \delta_1 z_1 + \alpha_1 y_2 + \frac{\eta}{\tau^2}v_2+\xi \\ &= \delta_1 z_1 + \alpha_1 y_2 + \frac{\eta}{\tau^2}(y_2-\textbf{z}\delta)+\xi. \end{align}$

现在，请记住，在给定的情况下，的条件概率密度函数为 $X=x$ $Y=y$

F_{X} （ X ∣ ÿ ） = \frac{F_{X ÿ} （ X ， ÿ ）}{F_{ÿ} （ ÿ ）} 。

$f_{X}(x \mid y)=\frac{f_{XY}(x,y)}{f_{Y}(y)}.$

在当前情况下，我们有可以重新排列为表达式

F_{1个} （ ÿ_{1个} ∣ ÿ_{2} ， ž ） = \frac{F_{12} （ ÿ_{1个} ， ÿ_{2} ∣ ž ）}{F_{2} （ ÿ_{2} ∣ ž ）} ，

$f_{1}(y_1 \mid y_2, \mathbf{z})=\frac{f_{12}(y_1,y_2 \mid \mathbf{z})}{f_{2}(y_2 \mid \mathbf{z})},$

F_{12} （ ÿ_{1个} ， ÿ_{2} ∣ ž ） = F_{1个} （ ÿ_{1个} ∣ ÿ_{2} ， ž ） F_{2} （ ÿ_{2} ∣ ž ） 。

$f_{12}(y_1, y_2 \mid \mathbf{z})= f_{1}(y_1 \mid y_2, \mathbf{z})f_{2}(y_2 \mid \mathbf{z}).$

然后，我们可以将似然度写为两个独立冲击的密度的函数： $v_1,\xi_1$

\begin{aligned} L (y_{1}, y_{2} ∣ z) & = \prod_{i}^{n} f_{1} (y_{1 i} ∣ y_{2 i}, z_{i}) f_{2} (y_{2 i} ∣ z_{i}) \\ = \prod_{i}^{n} Pr {(y_{1 i} = 1)}^{y_{1 i}} Pr {(y_{1 i} = 0)}^{1 - y_{1 i}} f_{2} (y_{2 i} ∣ z_{i}) \\ = \prod_{i}^{n} Pr {(y_{1 i}^{*} > 0)}^{y_{1 i}} Pr {(y_{1 i}^{*} \leq 0)}^{1 - y_{1 i}} f_{2} (y_{2 i} ∣ z_{i}) \\ = \prod_{i}^{n} Pr {(δ_{1} z_{1 i} + α_{1} y_{2 i} + \frac{η}{τ^{2}} (y_{2 i} - z_{i} δ) + ξ_{i} > 0)}^{y_{1 i}} \\ Pr {(δ_{1} z_{1 i} + α_{1} y_{2 i} + \frac{η}{τ^{2}} (y_{2 i} - z_{i} δ) + ξ_{i} \leq 0)}^{1 - y_{1 i}} \\ f_{2} (y_{2 i} ∣ z_{i}) \\ = \prod_{i}^{n} Pr {(ξ_{i} > - [δ_{1} z_{1 i} + α_{1} y_{2 i} + \frac{η}{τ^{2}} (y_{2 i} - z_{i} δ)])}^{y_{1 i}} \\ Pr {(ξ_{i} \leq - [δ_{1} z_{1 i} + α_{1} y_{2 i} + \frac{η}{τ^{2}} (y_{2 i} - z_{i} δ)])}^{1 - y_{1 i}} \\ f_{2} (y_{2 i} ∣ z_{i}) \\ = \prod_{i}^{n} Pr {(\frac{ξ_{i} - 0}{\sqrt{1 - \frac{η^{2}}{τ^{2}}}} > - \frac{δ_{1} z_{1 i} + α_{1} y_{2 i} + \frac{η}{τ^{2}} (y_{2 i} - z_{i} δ) + 0}{\sqrt{1 - \frac{η^{2}}{τ^{2}}}})}^{y_{1 i}} \\ Pr {(\frac{ξ_{i} - 0}{\sqrt{1 - \frac{η^{2}}{τ^{2}}}} \leq - \frac{δ_{1} z_{1 i} + α_{1} y_{2 i} + \frac{η}{τ^{2}} (y_{2 i} - z_{i} δ) + 0}{\sqrt{1 - \frac{η^{2}}{τ^{2}}}})}^{1 - y_{1 i}} \\ f_{2} (y_{2 i} ∣ z_{i}) \\ = \prod_{i}^{n} Pr {(\frac{ξ_{i}}{\sqrt{1 - \frac{η^{2}}{τ^{2}}}} > - w_{i})}^{y_{1 i}} Pr {(\frac{ξ_{i}}{\sqrt{1 - \frac{η^{2}}{τ^{2}}}} \leq - w_{i})}^{1 - y_{1 i}} f_{2} (y_{2 i} ∣ z_{i}) \\ = \prod_{i}^{n} {[1 - Pr (\frac{ξ_{i}}{\sqrt{1 - \frac{η^{2}}{τ^{2}}}} \leq - w_{i})]}^{y_{1 i}} Pr {(\frac{ξ_{i}}{\sqrt{1 - \frac{η^{2}}{τ^{2}}}} \leq - w_{i})}^{1 - y_{1 i}} f_{2} (y_{2 i} ∣ z_{i}) \\ = \prod_{i} {[1 - Φ (- w_{i})]}^{y_{1 i}} Φ (- w_{i})^{1 - y_{1 i}} φ (\frac{y_{2 i} - z_{i} δ}{τ}) \\ = \prod_{i}^{n} Φ (w_{i})^{y_{1 i}} {[1 - Φ (w_{i})]}^{1 - y_{1 i}} φ (\frac{y_{2 i} - z_{i} δ}{τ}) \\ = Φ (w)^{y_{1}} {[1 - Φ (w)]}^{1 - y_{1}} φ (\frac{y_{2} - z δ}{τ}) \end{aligned}

$\begin{align} \mathcal{L}(y_1,y_2\mid \mathbf{z}) &= \prod_i^n f_{1}(y_{1i} \mid y_{2i}, \mathbf{z}_i)f_{2}(y_{2i} \mid \mathbf{z}_i) \\ &= \prod_i^n \Pr\left(y_{1i}=1\right)^{y_{1i}}\Pr\left(y_{1i}=0\right)^{1-y_{1i}}f_{2}(y_{2i} \mid \mathbf{z}_i) \\ &= \prod_i^n \Pr\left(y_{1i}^*>0\right)^{y_{1i}}\Pr\left(y_{1i}^*\leq0\right)^{1-y_{1i}}f_{2}(y_{2i} \mid \mathbf{z}_i) \\ &= \prod_i^n \Pr\left(\delta_1 z_{1i} + \alpha_1 y_{2i} + \frac{\eta}{\tau^2}(y_{2i}-\textbf{z}_{i}\delta)+\xi_i>0\right)^{y_{1i}}\\ &\qquad\quad \Pr\left(\delta_1 z_{1i} + \alpha_1 y_{2i} + \frac{\eta}{\tau^2}(y_{2i}-\textbf{z}_i\delta)+\xi_i\leq0\right)^{1-y_{1i}}\\ &\qquad\quad f_{2}(y_{2i} \mid \mathbf{z}_i) \\ &= \prod_i^n \Pr\left(\xi_i>-\left[\delta_1 z_{1i} + \alpha_1 y_{2i} + \frac{\eta}{\tau^2}(y_{2i}-\textbf{z}_i\delta)\right]\right)^{y_{1i}}\\ &\qquad\quad \Pr\left(\xi_i\leq-\left[\delta_1 z_{1i} + \alpha_1 y_{2i} + \frac{\eta}{\tau^2}(y_{2i}-\textbf{z}_i\delta)\right]\right)^{1-y_{1i}}\\ &\qquad\quad f_{2}(y_{2i} \mid \mathbf{z}_i) \\ &= \prod_i^n \Pr\left(\frac{\xi_i-0}{\sqrt{1-\frac{\eta^2}{\tau^2}}}>-\frac{\delta_1 z_{1i} + \alpha_1 y_{2i} + \frac{\eta}{\tau^2}(y_{2i}-\textbf{z}_i\delta)+0}{\sqrt{1-\frac{\eta^2}{\tau^2}}}\right)^{y_{1i}}\\ &\qquad\quad \Pr\left(\frac{\xi_i-0}{\sqrt{1-\frac{\eta^2}{\tau^2}}}\leq-\frac{\delta_1 z_{1i} + \alpha_1 y_{2i} + \frac{\eta}{\tau^2}(y_{2i}-\textbf{z}_i\delta)+0}{\sqrt{1-\frac{\eta^2}{\tau^2}}}\right)^{1-y_{1i}}\\ &\qquad\quad f_{2}(y_{2i} \mid \mathbf{z}_i) \\ &= \prod_i^n \Pr\left(\frac{\xi_i}{\sqrt{1-\frac{\eta^2}{\tau^2}}}>-w_i\right)^{y_{1i}} \Pr\left(\frac{\xi_i}{\sqrt{1-\frac{\eta^2}{\tau^2}}}\leq-w_i\right)^{1-y_{1i}} f_{2}(y_{2i} \mid \mathbf{z}_i) \\ &= \prod_i^n \left[1-\Pr\left(\frac{\xi_i}{\sqrt{1-\frac{\eta^2}{\tau^2}}}\leq-w_i\right)\right]^{y_{1i}} \Pr\left(\frac{\xi_i}{\sqrt{1-\frac{\eta^2}{\tau^2}}}\leq-w_i\right)^{1-y_{1i}} f_{2}(y_{2i} \mid \mathbf{z}_i) \\ &= \prod_i \left[1-\Phi(-w_i)\right]^{y_{1i}} \Phi(-w_i)^{1-y_{1i}} \varphi\left(\frac{y_{2i}-\mathbf{z}_i\delta}{\tau}\right) \\ &= \prod_i^n \Phi(w_i)^{y_{1i}} \left[1-\Phi(w_i)\right]^{1-y_{1i}} \varphi\left(\frac{y_{2i}-\mathbf{z}_i\delta}{\tau}\right) \\ &= \Phi(w)^{y_{1}} \left[1-\Phi(w)\right]^{1-y_{1}} \varphi\left(\frac{y_{2}-\mathbf{z}\delta}{\tau}\right) \\ \end{align}$ 其中和是标准正态分布的累积密度函数和概率密度函数。

\begin{aligned} w_{i} = \frac{δ_{1} z_{1 i} + α_{1} y_{2 i} + \frac{η}{τ^{2}} (y_{2 i} - z_{i} δ)}{\sqrt{1 - \frac{η^{2}}{τ^{2}}}} . \end{aligned}

$\begin{align} w_i = \frac{\delta_1 z_{1i} + \alpha_1 y_{2i} + \frac{\eta}{\tau^2}(y_{2i}-\textbf{z}_i\delta)}{\sqrt{1-\frac{\eta^2}{\tau^2}}}. \end{align}$

Φ (z)

$\Phi(z)$

φ (z)

$\varphi(z)$

— 弗雷德里克·P
source