误差和残差有什么区别？

20

尽管这两个普遍存在的术语经常被同义词使用，但有时似乎有所区别。确实有区别吗，或者它们到底是同义词吗？

residuals error terminology

— 康斯坦丁
source

如果有时间，请查看Qin＆Gilbert的“时间序列计量经济学的历史中的错误术语”一文，以进行综合处理。哦，但这仅适用于时间序列数据。

— 理查德·哈迪

20

错误与真实数据生成过程（DGP）有关，而残差是估算模型后剩下的结果。实际上，正态性，同线性度和独立性等假设适用于DGP的误差，而不适用于模型的残差。（例如，在模型中具有拟合参数，只有残差可以是独立的。）但是，我们只能访问残差，因此我们可以使用该残差。 $p+1$ $N-(p+1)$

— gung-恢复莫妮卡
source

9

（+1）残差可以视为误差的估计。

— Scortchi-恢复莫妮卡

@ABC，DGP代表数据生成过程。即使您的模型合适并且反映了DGP的真实结构，但如果基础误差不是必需的，残差也不一定是正常的，同调的和独立的。

— gung-恢复莫妮卡

@Scortchi嗨，您碰巧有任何引用可以扩展您的评论吗？我试图理解为什么精确地将残差用作误差估计，因为当实际假设为误差的正态性时，我看到人们在回归分析中检查残差的正态性，而我不知道为什么这是正确的。

— 奥斯汀

@奥斯汀，如果您仍然对此感兴趣，则应该提出一个新问题。

— gung-恢复莫妮卡

13

的错误是所观察到的值与真值（非常经常未观测到的，由所述生成DGP）之间的差值。

甲残留是所观察到的值和预测值（通过模型）之间的差值。

— 利奥波德W.
source

\pm

$\pm$

此链接（ece.rochester.edu/courses/ECE111/error_uncertainty.pdf）提供了很好的解释，其中引用了Bevington和Taylor的论题。

— 史蒂文·豪威尔

在机器学习语言中，残差是训练错误而错误是测试错误吗？

— 周星驰

@CharlesChow这取决于您使用的数据集。如果使用训练集，那就是训练错误；如果使用测试集，则为测试错误。

— 利奥波德W.

7

误差项是一个永远无法观察到的理论概念，但是残差是每次进行回归时计算的真实值

— 库扎伊·勒米尔·蒙尤克瓦（Kudzai Lemiel Munyukwa）
source