如何理解回归分析中的标准化残差？

根据“ 实例回归分析”，残差是响应值和预测值之间的差，因此，每个残差都有不同的方差，因此我们需要考虑标准化残差。

但是方差是针对一组值的，单个值怎么会有方差？

我要说，从概率分布中随机抽取而来的单个数字（例如残差）是一个实现值，而不是一个随机变量。同样，我会说$N$ 根据您的数据和模型拟合得出的残差 $\bf{e}=\bf{y}-\bf{\hat{y}}$是一组已实现的值。这组数字可以粗略地概念化为来自基础分布的独立抽取$\epsilon$ 〜 $\mathcal{N}(\mu,\sigma^2)$。（但是，不幸的是，这里还有其他一些复杂情况。例如，您实际上并没有$N$ 独立的信息，因为残差， $\bf{e}$，必须满足两个条件： $\sum e_i=0$和 $\sum x_ie_i=0$）

现在，给定一组数字，无论它们是残差还是其他任何东西，它们的确具有方差， $\sum(e_i-\bar{e})^2/N$，但这没意思。我们关心的是能够对数据生成过程说些什么（例如，估计总体分布的方差）。使用前面的公式，我们可以通过替换$N$具有剩余的自由度，但这可能不是一个很好的近似值。这个话题很快就会变得非常复杂，但是有两个可能的原因可能是异方差性（即人口方差在不同水平$x$）和异常值的存在（即，给定的残差完全来自不同的总体）。几乎可以肯定，在实践中，您将无法估计得出异常值的总体方差，但是从理论上讲，它确实具有方差。我怀疑这些思路与作者的想法有关，但是，我应该注意，我还没有读过这本书。

更新： 重新阅读问题后，我怀疑报价可能是指$x$点的-值会影响拟合的回归线，从而影响与该点关联的残差的值。这里要把握的关键思想是杠杆。我在这里的答案中讨论了这些主题： 解释plot.lm（）。