为什么GLM与带有转换变量的LM不同

16

y = β_{1} x_{1} + \dots + β_{p} x_{p} + ε_{i},

$y = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i,$

其中是响应变量，是第说明变量。 $y$ $x_{i}$ $i^{th}$

通常以满足测试假设为目标，可以转换响应变量。例如，我们在每个上应用log函数。转换响应变量并不等同于执行GLM。 $y_i$

可以采用以下形式编写GLM（再次从课程讲义中（第3页））

g (u) = β_{1} x_{1} + \dots + β_{p} x_{p} + ε_{i},

$g(u) = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i,$

其中仅仅是另一个符号当我从第2页，课程讲义理解。称为链接函数。 $u$ $y$ $g()$

在课程中，我不太了解GLM和带有转换后的变量的LM之间的区别。你能帮我吗？

regression generalized-linear-model data-transformation linear-model

— 雷米
source

2

您可能会发现考虑到二进制结果的所有变换都是仿射的这一事实很有启发性，从而将您限制在普通的最小二乘回归上。显然，这不是逻辑回归（用于二进制响应的标准GLM）所完成的。（证明：让结果值编码为和，让为任何变换。写和我们发现同意用（是的仿射变换）其中和

y_{0}

$y_0$

y_{1}

$y_1$

ϕ

$\phi$

z_{0} = ϕ (y_{0})

$z_0=\phi(y_0)$

z_{1} = ϕ (y_{1})

$z_1=\phi(y_1)$

ϕ

$\phi$

{y_{0}, y_{1}}

$\{y_0,y_1\}$

y \to λ y + μ

$y\to \lambda y + \mu$

y

$y$

λ = (z_{1} - z_{0}) / (y_{1} - y_{0})

$\lambda=(z_1-z_0)/(y_1-y_0)$

μ = z_{0} - λ y_{0}

$\mu=z_0-\lambda y_0$ 。）

— whuber

15

在执行线性回归之前先转换响应，然后执行以下操作：

E (g (Y)) \sim β_{0} + β_{1} x_{1} + \dots + β_{p} x_{p}

$E(g(Y)) \sim \beta_0 + \beta_1x_1 + \ldots + \beta_px_p$

其中是给定的函数，我们假设具有给定的分布（通常是正态）。 $g$ $g(Y)$

广义线性模型正在执行此操作：

g (E (Y)) \sim β_{0} + β_{1} x_{1} + \dots + β_{p} x_{p}

$g(E(Y)) \sim \beta_0 + \beta_1x_1 + \ldots + \beta_px_p$

其中与以前相同，并且我们假设具有给定的分布（通常不是正态）。 $g$ $Y$

— 洪大井
source

您的方程式中的E是多少？

— user1406647

1

E (X)

$E(X)$ 是用于的期望值的标准符号。

X

$X$

— Marcus PS

我还发现这是很有帮助的：christoph-scherber.de/content/PDF%20Files/...

— 阿迪亚

22

我不确定这是否可以为您提供一个完整的答案，但它可能有助于摆脱概念上的僵局。

您的帐户似乎有两种误解：

请记住，普通最小二乘法（OLS-'linear'）回归是广义线性模型的一种特殊情况。因此，当您说“ [t]转换响应变量不等于进行GLM”时，这是不正确的。拟合线性模型或转换响应变量，然后拟合线性模型都构成“执行GLM”。
在GLM的标准公式中，您所说的“ ”（通常用表示，但这只是一个优先事项）是协变量空间中特定位置（即）的条件响应分布的平均值。）。因此，当您说“其中只是另一个符号”时，这也是不正确的。在OLS公式中，是随机变量，和/或是的观测值/研究单位的实现值。也就是说，（更一般地）表示数据，而不是参数。 $u$ $\mu$ $X$ $u$ $y$ $Y$ $y_i$ $Y$ $i$ $y$

（我并不是故意要犯错误，我只是怀疑这些错误可能会引起您的困惑。）
我没有看到您提到的广义线性模型的另一方面。那就是我们指定一个响应分布。对于OLS回归，响应分布为高斯（正态），链接函数为恒等函数。例如，在逻辑回归中（这可能是人们在想到GLM时首先想到的），响应分布为Bernoulli（/二项式），链接函数为logit。当使用转换来确保满足OLS的假设时，我们经常尝试使条件响应分布可以接受为正态。但是，没有任何这样的变换会使伯努利分布正常。

— gung-恢复莫妮卡
source