EM算法是否始终如一地估计高斯混合模型中的参数?


9

我正在研究高斯混合模型,自己提出这个问题。

假设的基础数据从混合物产生高斯分布和他们每个人都有一个平均向量μ ķ[R p,其中1 ķ ķ和他们每个人都有相同的协方差矩阵Σ,并假定此Σ是对角矩阵。并假设混合比为1 / K,即每个簇具有相同的权重。KμkRp1kKΣΣ1/K

因此,在这个理想的例子中,唯一的工作是估计均值向量μ ķ[R p,其中1 ķ ķ和共方差矩阵ΣKμkRp1kKΣ

我的问题是:如果我们用EM算法,我们将能够始终如一地估计Σ,即,当样本大小ñ →交通,将EM算法产生的估计实现的真正价值μ ķΣμkΣnμkΣ

Answers:


1

μk

1/KΣk


我进行了数值实验,至少对于2个正态分布的独立类,EM产生了类均值的一致估计量。但是,K手段无法做到这一点,我用数学方法证明了这一点
KevinKim 2015年

1
您能提供更多细节吗?如你使用,你如何初始化参数数据等
dcorney

同意@dcorney。这实际上取决于您选择的初始值。至少在实践中,错误地选择初始值会导致估算值不一致(我使用mixtools R软件包)
德国Demidov
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.