训练基本的马尔可夫随机场以对图像中的像素进行分类

我正在尝试学习如何使用马尔可夫随机场来分割图像中的区域。我不了解MRF中的某些参数，或者为什么我执行的期望最大化有时无法收敛到解决方案。

从贝叶斯定理开始，我有，其中是像素的灰度值，是类标签。我选择对使用高斯分布，而是使用MRF建模的。 $p(x|y) = p(y|x) p(x) / p(y)$ $y$ $x$ $p(y|x)$ $p(x)$

我为MRF使用了一个电位函数，该函数既具有成对的集团电位，又具有被分类像素的类别标签的电位值。单个像素电势值是某个常数，取决于类标签。对成对连接的4个邻居评估成对势函数，如果邻居具有与此像素相同的类别标签，则返回正如果标签不同则返回。 $\alpha$ $x$ $\beta$ $-\beta$

在期望最大化的点上，我必须找到最大化对数似然期望值的和的值，我使用了数值优化方法（尝试了共轭梯度，BFGS，鲍威尔方法），但是总是会发现的值将变为负值， s将会急剧增加，并且一两次或之后的迭代，整个图像将仅分配给一个标签（背景：使用ICM完成给定MRF参数的类标签的分配）。如果我删除了alpha，即仅使用成对的集团势，那么期望最大化就可以了。 $\alpha(x)$ $\beta$ $\beta$ $\alpha$

请说明每个课程的Alpha用途是什么？我以为它们与图像中存在的该类的数量有关，但似乎无关。一旦我使MRF仅以成对电位工作，我便将其与简单的高斯混合模型进行了比较，发现它们产生的结果几乎相同。我期望成对的电位能使课程顺利一些，但这并没有发生。请告知我哪里出了问题。

expectation-maximization image-processing classification

— 薯片
source

很好奇，为什么选择无向图模型？

在我的应用程序中，像素计数和相邻像素的灰度值更可能具有相同的类别标签，但没有任何理由对每个成对集团使用不同的beta。希望我能正确理解您的问题。

— 筹码

λ ‖ α ‖^{2}

$\lambda \|\alpha\|^2$

您的问题尚不清楚：1）您的可能性p（y | x）是否在像素上分解，因此对每个像素使用一维高斯？2）您在EM中优化的确切目标是什么（您提到了对数似然，但之前使用MRF进行建模）？3）您是否定义了对数域中的电位？增加beta是否意味着增加P（x）或能量，即-log P（x）或负能量？4）您是否通过设置这种退化的alpha值实际上降低了EM目标，还是优化失败了？

— Roman Shapovalov 2014年

循环信念传播又如何呢？

— wolfsatthedoor

诊断

这听起来像是初始化问题。

您正在使用的MRF模型是非凸的，因此具有多个局部最小值。据我所知，所有现有的优化技术都对初始化敏感，这意味着最终解决方案的质量在很大程度上取决于您从何处开始优化过程。

建议的解决方案

我建议尝试不同的策略来初始化模型。例如，我想到的一种策略是：

首先为训练一个模型，现在忽略先前的项；即修复是均匀的，例如，通过设置和保持它们固定。如果您想变得更聪明，可以将固定为代表训练集中标签相对频率的单峰分布。您可以通过适当设置值来做到这一点。 $p(y | x)$ $p(x)$ $\alpha = \beta = 0$ $p(x)$ $\alpha$
解冻 MRF模型中的一元和成对项；也就是说，让您的优化器更改和的值。 $\alpha$ $\beta$

建议的初始化绝不是初始化优化的最佳方法，而只是一种可能的选择。

最后，正如Roman Shapovalov所建议的那样，您可以考虑对先前的参数进行正则化。例如，通过在它们前面放一个高斯：其中和是超参数可以解释为高斯先验的方差。 $\lambda_\alpha ||\alpha||^2 + \lambda_\beta ||\beta||^2$ $\lambda_\alpha$ $\lambda_\beta$

— 索比
source