高斯的“判别式”分析模型为何如此称呼？

13

高斯判别分析模型学习，然后应用贝叶斯规则评估因此，它们是生成模型。为什么将其称为判别分析？如果是因为我们最终得出了类之间的判别曲线，则所有生成模型都将发生这种情况。 $P(x|y)$

P (y | x) = \frac{P (x | y) P_{p r i o r} (y)}{Σ_{g \in Y} P (x | g) P_{p r i o r} (g)} .

$P(y|x) = \frac{P(x|y)P_{prior}(y)}{\Sigma_{g \in Y} P(x|g) P_{prior}(g) }.$

normal-distribution discriminant-analysis generative-models

— 高带宽
source

19

如果您是说LDA，我会说线性判别分析的名称可以至少从1936年的Fisher论文中得到历史解释，据我所知，该论文先于当前的术语和机器学习在判别式和区分式之间的区别。生成模型。并不是说费舍尔直接将其称为线性判别分析，而是他明确要求线性函数进行判别。作为一个奇怪的说法，费舍尔考虑了对论文中著名的虹膜数据集的歧视。

顺便说一句，Fisher并未提出用于生成模型的线性判别方法。他寻求使之比最大化的线性组合（对于两个类）组间方差的组内方差，它不需要一个正态性假设。有关细节以及它与LDA作为生成模型的贝叶斯规则的关系，可以在Brian Ripley的书“模式识别和神经网络”的第3章中找到。

— NRH
source

2

很简单，如果您有两个类，则GDA会使用以下假设： $(Y=0 , Y=1)$

$P(X|Y=0) \sim \mathcal{N}(\mu_0,\Sigma_0)$
$P(X|Y=1) \sim \mathcal{N}(\mu_1,\Sigma_1)$
$P(Y=1)=1-P(Y=0)=\Phi$

然后使用最大似然估计获取参数。 $(\mu_0,\Sigma_0,\mu_1,\Sigma_1,\Phi)$

因此，它是高斯型的，因为它对内部群的分布使用了高斯假设（您可能希望对ex进行统一使用）和判别式，因为它的目的是将数据分成几组。

您可以在此处找到更多信息。

— dfhgfh
source