对特征向量的视觉解释感到困惑：视觉上不同的数据集如何具有相同的特征向量？

许多统计教科书提供了一个直观的说明协方差矩阵的特征向量是：

向量u和z形成本征向量（本征轴）。这是有道理的。但是令我困惑的一件事是，我们从相关矩阵中提取特征向量，而不是原始数据。此外，完全不同的原始数据集可以具有相同的相关矩阵。例如，以下两个都具有以下相关矩阵：

因此，它们的特征向量指向相同的方向：

但是，如果对特征向量在原始数据中的哪个方向应用相同的视觉解释，则会得到指向不同方向的向量。

有人可以告诉我我哪里出问题了吗？

第二次编辑：如果我这么大胆，下面给出了出色的答案，我就能够弄清混乱并作了说明。

1. 视觉解释与以下事实相吻合：从协方差矩阵提取的特征向量是不同的。

   协方差和特征向量（红色）：

   $$\left[\begin{array}{} 1 & 1 \\ 1 & 1\end{array}\right] \left[\begin{array}{} .7 & -.72 \\ .72 & .7\end{array}\right]$$

   协方差和特征向量（蓝色）：

   $$\left[\begin{array}{} .25 & .5 \\ .5 & 1\end{array}\right] \left[\begin{array}{} .43 & -.9 \\ .9 & .43\end{array}\right]$$

2. 相关矩阵反映了标准化变量的协方差矩阵。目视检查标准变量表明了为什么在我的示例中提取相同的特征向量：

您不必对相关矩阵进行PCA；您也可以分解协方差矩阵。请注意，这些通常会产生不同的解决方案。（有关此内容的更多信息，请参见：有关相关性或协方差的PCA？）

在第二个图中，相关性是相同的，但组看起来不同。它们看起来不同，因为它们具有不同的协方差。但是，方差也不同（例如，红色组在X1的较大范围内变化），并且相关性是协方差除以标准偏差（）。结果，相关性可以相同。 ${\rm Cov}_{xy} / {\rm SD}_x{\rm SD}_y$

同样，如果使用协方差矩阵对这些组执行PCA，则将获得与使用相关矩阵不同的结果。