线性判别分析和贝叶斯规则：分类

线性判别分析与贝叶斯规则之间有什么关系？我知道LDA是通过尝试最小化组方差内和组方差之比来进行分类的，但是我不知道贝叶斯规则在其中的用法。

classification discriminant-analysis bayes

— zca0
source

提取判别函数，以使组间变化与组内变化比率最大化。它与分类无关，这是LDA的第二个独立阶段。

— ttnphns 2012年

LDA中的分类如下（贝叶斯法则）。[关于判别式的提取，请看这里。]

根据贝叶斯定理，在观察当前点时我们正在处理类期望概率为，其中 $k$ $x$ $P(k|x) = P(k)*P(x|k) / P(x)$

-无条件（背景）类的概率 ; –点无条件（背景）概率； -点的存在的概率类，如果类被作了妥善处理是。 $P(k)$ $k$ $P(x)$ $x$ $P(x|k)$ $x$ $k$ $k$

“观测当前点 ”是基本条件，，因此分母可以省略。因此，。 $x$ $P(x)=1$ $P(k|x) = P(k)*P(x|k)$

是的本征类是的先验（分析前）概率；由用户指定。通常，默认情况下，所有类都接收相等的 = 1 / number_of_classes。为了计算，即后（分析后）的概率，对于本机类就是，一个应该知道。 $P(k)$ $x$ $k$ $P(k)$ $P(k)$ $P(k|x)$ $x$ $k$ $P(x|k)$

-本身的概率-不能确定，对于判别而言，LDA的主要问题是连续的而不是离散的变量。在这种情况下，表示并与之成比例的数量是概率密度（PDF函数）。在此，我们需要计算PDF为点类，，在通过的值形成三维正态分布 $P(x|k)$ $P(x|k)$ $x$ $k$ $PDF(x|k)$ $p$ $p$ 判别。[参见Wikipedia多元正态分布]

P D F (x | k) = \frac{e^{- d / 2}}{(2 π)^{p / 2} \sqrt{| S |})}

$PDF(x|k) = \frac {e^{-d/2}} {(2\pi)^{p/2}\sqrt{\bf |S|})}$

其中 –判别空间中从点到类质心的平方马氏距离（请参阅维基百科的马氏距离）； – 判别之间的协方差矩阵，在该类别中观察到。 $d$ $x$ $\bf S$

$x$ $P(k|x)$

$\bf S$ $\bf S$ $\bf |S|=1$ $d$ $\bf S$ $\bf S_w$

$x$ $k$ $b_{kv1}V1_x+b_{kv2}V2_x+...+Const_k$ $V1, V2,...V_p$

$b_{kv}=(n-g)\sum_w^p{s_{vw}\bar{V}_{kw}}$ $g$ $s_{vw}$ $p$ $V$

$Const_k=\log(P(k))-(\sum_v^p{b_{kv}\bar{V}_{kv}})/2$

$x$

— ttnphns
source

这是贝叶斯方法吗？费舍尔对此采取什么方法？

— zca0 2012年

根据您的要求添加到答案中

— ttnphns 2012年

X

$X$

K

$K$

p (K | X)

$p(K|X)$

p (K | X)

$p(K|X)$

K

$K$

我认为贝叶斯方法更容易理解，为什么我们需要使用费舍尔方法？

— 鳄梨

我们不需要仅出于历史问题。

— ttnphns 2014年

$x$ $f_1(x)$ $f_2(x)$ $x$ $f_1(x) \geq f_2(x)$ $f_1$ $f_2$

— 迈克尔·R·切尼克
source