常规PCA和概率PCA有什么区别？

我知道常规的PCA不遵循概率模型来观察数据。那么PCA和PPCA之间的基本区别是什么？在PPCA中，潜变量模型包含例如观测变量，潜变量（未观察变量）和矩阵，矩阵不必像常规PCA那样是正交的。我可以想到的另一个区别是，常规PCA仅提供主要组件，而PPCA提供了数据的概率分布。 $y$ $x$ $W$

有人可以进一步谈谈PCA和PPCA之间的区别吗？

pca

— 仇杀队
source

看这里。

— 阿米·塔沃里

+1。在这里查看我的答案stats.stackexchange.com/questions/208731，也在这里查看stats.stackexchange.com/questions/203087。您已阅读链接到的幻灯片吗？他们似乎详细解释了所有内容。您能遵循那个博览会还是太复杂了？

— 变形虫说恢复莫妮卡

@amoeba，我浏览了幻灯片，但有所不同，但这并不能使我清楚地知道PPCA可以做什么，而PCA不能做什么？通过引入潜在变量在技术上会发生什么？PPCA中的协方差估计也可以在常规PCA中完成吗？如果您可以添加答案，那将非常有帮助

— 仇杀队（Vendetta）

@amoeba，这两个问题都很好回答。尤其是关于概率PCA中主要子空间的问题。这给了我更多的直觉，可以理解W.

— Vendetta

好的，我将尝试发布答案，但是这些天我很忙。我将尝试在本周找到时间，但可能会将其推迟到下周。（顺便

— 说

PPCA的目标不是给出比PCA更好的结果，而是允许将来进行广泛的扩展和分析。该论文在引言中明确指出了一些优点，例如：

“可能性度量的定义可以与其他概率技术进行比较，同时促进统计检验并允许贝叶斯模型的应用”。

特别是贝叶斯模型最近正在经历巨大的复兴，例如VAE，“自动编码变体贝叶斯”，https：//arxiv.org/abs/1312.6114。将PCA扩展到可在变体框架和类似框架中使用，可能会使另一位研究人员说：“哦，嘿，如果我做……？”

— 休·珀金斯
source