生成模型与判别模型(在贝叶斯环境中)


22

生成模型和判别(判别)模型之间有什么区别(在贝叶斯学习和推理的背景下)?

它与预测,决策理论或无监督学习有什么关系?


抱歉,我不明白第二句话的意思。您会尝试改写吗?
csgillespie 2010年

呵呵,我刚刚加入统计和机器学习的世界,对不起,我没有找到如何将无监督学习与决策理论联系起来的方法。但是我还在学习!
nkint 2010年

1
我只是困惑它如何适合这个问题。例如,“预测”,“决策理论”或“无监督”一词不会出现在公认的答案中
csgillespie 2010年

Answers:


35

两者都在想得知输入x映射到输出y的规则指导的学习使用,赋予了许多形式的训练样本。生成模型(例如朴素贝叶斯)显式地对联合概率分布p x y 建模,然后使用贝叶斯规则计算p y | x 。另一方面,判别模型(例如逻辑回归)直接建模p y | x {X一世ÿ一世}pXÿpÿ|Xpÿ|X

ÿpX|ÿ以及生成模型)。但是,生成模型具有其自身的优势,例如能够处理丢失的数据等。为进行比较,您可以看一下本文:关于判别式与生成式分类器:逻辑回归和朴素贝叶斯的比较

在某些情况下,一种模型比另一种模型更好(例如,如果您拥有大量数据,则判别模型通常会做得更好;如果您拥有一些额外的未标记数据,则生成模型可能会更好)。实际上,也存在试图引入两全其美的混合动力模型。参见本文示例:生成模型和判别模型的原理性混合


1
好答案。关于比较判别式和生成式分类器的典范实例(分别为逻辑回归和高斯朴素贝叶斯),我发现本书这一章比Ng更易读
Josh Hemann 2010年

3

上述答案的一种补充:

由于判别式仅关注P(Y | X),而生成器同时关注P(X,Y)和P(X),为了更好地预测P(Y | X),生成模型的自由度较小在模型中与判别模型相比。因此,生成模型更健壮,不易过度拟合,而判别则相反。

那解释了上面的答案

在某些情况下,一种模型比另一种模型更好(例如,如果您拥有大量数据,则判别模型通常会做得更好;如果您拥有一些额外的未标记数据,则生成模型可能会更好)。


2
您能解释一下您对生成模型的自由度较小这一事实的看法吗?证明?链接?谢谢
帕特里克
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.