相关和简单线性回归之间有什么区别？

特别是，我指的是皮尔逊积矩相关系数。

什么是之间的相关性之间的差异和和线性回归预测从？Y Y $X$$Y$$Y$$X$

首先，一些相似之处：

• 标准化回归系数与Pearson相关系数相同
• 在简单线性回归中，Pearson相关系数的平方与相同$R^2$
• 简单的线性回归和相关都不能直接回答因果关系问题。这一点很重要，因为我遇到了一些认为简单回归可以神奇地推断导致。$X$$Y$

第二，一些差异：

• 回归方程（即）可用于基于值对进行预测Y $a + bX$$Y$$X$
• 尽管相关性通常是指线性关系，但它可以涉及其他形式的相关性，例如多项式或真正的非线性关系
• 虽然相关通常是指Pearson的相关系数，但还有其他类型的相关，例如Spearman的相关。

这是我在graphpad.com网站上发布的答案：

相关性和线性回归并不相同。考虑以下差异：

• 相关性量化了两个变量相关的程度。相关不适合数据中的任何一条线。
• 通过相关性，您不必考虑因果关系。您只需量化两个变量之间相互关联的程度即可。进行回归分析时，您必须考虑因果关系，因为确定回归线是从X预测Y的最佳方法。
• 使用关联，将两个变量中的哪个称为“ X”和将哪个变量称为“ Y”并不重要。如果将两者交换，则将获得相同的相关系数。使用线性回归时，决定将哪个变量称为“ X”和将哪个变量称为“ Y”非常重要，因为如果将二者互换，则会得到不同的最佳拟合线。从X最好地预测Y的线与从Y最好地预测X的线不同（除非您拥有完美的数据且没有散乱）。
• 当您测量两个变量时，几乎总是使用关联。当您通过实验操作某个变量时，这种方法很少适用。使用线性回归时，通常可以通过实验操作X变量（时间，浓度...），而可以测量Y变量。

在线性回归的单个预测变量情况下，标准化斜率与相关系数具有相同的值。线性回归的优势在于，可以以一种方式描述关系，从而可以根据给定的预测变量的任何特定值，基于两个变量之间的关系预测预测变量的得分。尤其是线性回归给您的一条信息是，相关性不是截距，即预测变量为0时预测变量上的值。

简而言之-它们在计算上产生相同的结果，但是有更多的元素能够在简单的线性回归中解释。如果您只想简单地描述两个变量之间的关系的大小，请使用相关性-如果您希望根据特定值来预测或解释结果，则可能需要回归。

相关分析仅量化两个变量之间的关系，而忽略哪个是因变量和哪个是独立变量。但是在应用回归之前，您必须校准要检查哪个变量对另一个变量的影响。

到目前为止，所有给出的答案都提供了重要的见解，但不应忘记，您可以将一个参数转换为另一个参数：

$y = mx + b$

因此，您可以通过缩放和移动它们的参数来相互转换。

R中的一个示例：

y <- c(4.17, 5.58, 5.18, 6.11, 4.50, 4.61, 5.17, 4.53, 5.33, 5.14)
x <- c(4.81, 4.17, 4.41, 3.59, 5.87, 3.83, 6.03, 4.89, 4.32, 4.69)
lm(y ~ x)
## 
## Call:
## lm(formula = y ~ x)
## 
## Coefficients:
## (Intercept)            x  
##      6.5992      -0.3362
(m <- cov(y, x) / var(x)) # slope of regression
## [1] -0.3362361
cor(y, x) * sd(y) / sd(x) # the same with correlation
## [1] -0.3362361
mean(y) - m*mean(x)       # intercept
## [1] 6.599196

从相关性我们只能得到一个描述两个变量之间线性关系的索引。在回归中，我们可以预测两个以上变量之间的关系，并可以使用它来识别哪些变量x可以预测结果变量y。

引用奥特曼（Altman DG）的话，“医学研究的实用统计学”，查普曼和霍尔，1991年，第321页：“相关将一组数据简化为一个与实际数据没有直接关系的数。回归是一种更有用的方法，结果显然与获得的测量结果有关。这种关系的强度是明确的，并且可以从置信区间或预测区间清楚地看到不确定性。”

回归分析是一种研究两个变量之间关系的成因的技术。而相关分析是研究量化两个变量之间关系的一种技术。

相关性是关系强度的指标（仅一个数）。回归分析是对特定功能关系的适当性进行的分析（模型参数的估计及其重要性的统计检验）。相关的大小与回归预测的精确度有关。

相关是统计中的一个术语，它确定两个之间是否存在关联，然后确定关联的程度。范围是-1至+1。而回归意味着回到平均水平。从回归中，我们通过保持一个变量与另一个变量无关来预测值，但应阐明我们要预测哪个变量的值。