第一个主要组件不会分隔类别，而其他PC会分开。那怎么可能？

我对17个定量变量运行了PCA，以获取较小的变量集（即主要成分），该变量集用于有监督的机器学习中，用于将实例分为两类。在PCA之后，PC1占数据方差的31％，PC2占数据的17％，PC3占10％，PC4占8％，PC5占7％，PC6占6％。

但是，当我看两类计算机之间的均值差异时，令人惊讶的是，PC1不能很好地区分两类计算机。剩下的PC就是很好的鉴别器。另外，PC1在决策树中使用时变得无关紧要，这意味着在修剪树后甚至在树中都不存在它。该树由PC2-PC6组成。

这个现象有什么解释吗？衍生变量会出问题吗？

如果在执行PCA之前未将变量缩放为具有单位方差，也会发生这种情况。例如，对于这些数据（请注意，比例仅从变为而从变为）：- 0.5 1 x - 3 $y$$-0.5$$1$$x$$-3$$3$

PC1大约为，几乎占所有方差，但没有判别力，而PC2为，可以完美区分各个类。$x$$y$

我认为@Flounderer提供的答案和示例都暗示了这一点，但我认为值得将其阐明。主成分分析（PCA）对标签（分类）无所谓。它所做的只是将一些高维数据转换到另一个维空间。例如，通过创建更容易通过特定方法分离的数据集，这可能有助于分类尝试。但是，这只是PCA的副产品（或副作用）。

当我们进行主成分分析时，主成分对应于最大可变性的方向，它们不能保证最大的区分或类别之间的分离。

因此，第二个组件为您提供了良好的分类，这意味着该方向上的数据可以使您更好地区分类。当您执行线性判别分析（LDA）时，它将为您提供最佳的正交方向分量，这些分量可以最大程度地增加类间距离并最小化类内距离。

因此，如果您对数据执行LDA而不是PCA，那么最早的组件之一可能更接近PC6，而不是PC1。希望这可以帮助。