线性回归中线性代表什么？

在R中，如果我写

lm(a ~ b + c + b*c) 

这仍然是线性回归吗？

如何在R中进行其他类型的回归？我希望对教科书或教程有什么建议吗？

线性是指您要估计的参数（例如）和结果（例如）之间的关系。因此，是线性的，但是不是线性的。线性模型意味着可以参数矢量的估计写为，其中是由估算过程确定的权重。线性模型可以以封闭形式代数求解，而许多非线性模型则需要使用计算机通过数值最大化来求解。$\beta$$y_i$$y=e^x\beta+\epsilon$$y=e^\beta x + \epsilon$$\hat{\beta} = \sum_i{w_iy_i}$$\{w_i\}$

minitab.com上的这篇帖子提供了非常明确的解释：

• 可以使用以下格式编写的模型是线性的：
  • Response = constant + parameter * predictor + ... + parameter * predictor
    • 也就是说，当每个术语（模型中的）都是常数或参数与预测变量的乘积时。
  • 因此，这两种这些都是线性模型：
    • $Y = B_0 + B_1X_1$（这是一条直线）
    • $Y = B_0 + B_1X_1^2$ （这是一条曲线）
• 如果无法使用上述格式表示模型，则为非线性。
  • 非线性模型的示例：
    • $Y = B_0 +$$X_1^{B_1}$
    • $Y = B_0 \centerdot \cos (B_1 \centerdot X_1)$

在将其作为“ R线性回归”问题而不是“线性回归”问题时，我会非常谨慎。R中的公式具有您可能知道或可能不知道的规则。例如：

http://wiener.math.csi.cuny.edu/st/stRmanual/ModelFormula.html

假设您要询问以下方程式是否为线性：

a = coeff0 + (coeff1 * b) + (coeff2 * c) + (coeff3 * (b*c))

如果您汇编一个新的自变量，则答案是肯定的，例如：

newv = b * c

将上面的newv方程替换为原始方程可能看起来像您对线性方程的期望：

a = coeff0 + (coeff1 * b) + (coeff2 * c) + (coeff3 * newv)

就引用而言，Google可以进行“ r回归”，或者您认为可能适用的任何方法。

您可以将线性回归写为（线性）矩阵方程。

$\left[ \matrix{a_1 \\a_2 \\a_3 \\a_4 \\a_5 \\ ... \\ a_n} \right] = \left[ \matrix{b_1 & c_1 & b_1*c_1 \\ b_2 & c_2 & b_2*c_2 \\b_3 & c_3 & b_3*c_3 \\b_4 & c_4 & b_4*c_4 \\b_5 & c_5 & b_5*c_5 \\ &...& \\ b_n & c_n & b_n*c_n } \right] \times \left[\matrix{\alpha_b & \alpha_c & \alpha_{b*c}} \right] + \left[ \matrix{\epsilon_1 \\\epsilon_2 \\\epsilon_3 \\\epsilon_4 \\\epsilon_5 \\ ... \\ \epsilon_n} \right]$

或者，如果您将此折叠起来：

$\mathbf{a} = \alpha_b \mathbf{b} + \alpha_c \mathbf{c} + \alpha_{b*c} \mathbf{b*c} + \mathbf{\epsilon}$

这个线性回归等价于寻找线性矢量的组合，和最接近向量。$\mathbf{b}$$\mathbf{c}$$\mathbf{b*c}$$\mathbf{a}$

（这也是一种几何解释，即在向量，和的跨度上找到的投影。对于具有两个列向量的问题通过三个测量，仍然可以将其绘制为一个数字，例如，如下所示：http : //www.math.brown.edu/~banchoff/gc/linalg/linalg.html）b c b ∗ $\mathbf{a}$$\mathbf{b}$$\mathbf{c}$$\mathbf{b*c}$

理解此概念在非线性回归中也很重要。例如，解决 比容易得多，因为第一个参数化允许用线性回归技术求解和系数。 y = u （e c （t - v ） + e d （t - v ））a $y=a e^{ct} + b e^{dt}$$y=u(e^{c(t-v)}+e^{d(t-v)})$$a$$b$