PCA中的逆协方差矩阵与协方差矩阵

在PCA中，如果我们选择逆协方差矩阵的主分量，或者如果我们丢弃与大特征值相对应的协方差矩阵的特征向量，是否会有所不同？

这在有关讨论这个职位。

观察到对于正定协方差矩阵，精度为。Σ - 1 = Ü d - 1 ü$\mathbf \Sigma = \mathbf{UDU}'$$\boldsymbol \Sigma^{-1} = \mathbf {U D}^{-1} \mathbf U'$

因此，特征向量保持不变，但是精度的特征值是协方差特征值的倒数。这意味着协方差的最大特征值将是精度的最小特征值。反之，正定性保证所有特征值都大于零。

因此，如果保留与精度的最小特征值有关的特征向量，则它对应于普通PCA。由于我们已经取了倒数（），因此仅应使用精度特征值的平方根才能完成变换数据的白化。$k$$\bf D^{-1}$

此外，逆协方差矩阵与向量之间的部分相关性成比例：

Corr(Xi, Xj | (Xothers )

当所有其他元素都固定时，Xi和Xj之间的相关性对于时间序列非常有用。