将期望最大化应用于抛硬币示例

最近，我一直在自学“期望最大化”，并在过程中掌握了一些简单的示例：

从这里开始：三个硬币，和带有，和c 1 c 2 p 0 p $c_0$$c_1$$c_2$$p_0$$p_1$$p_2$分别是被抛掷时落在头上的概率。投掷$c_0$。如果结果是Head，则将掷$c_1$三遍，否则将掷$c_2$三遍。$c_1$和产生的观测数据$c_2$如下：HHH，TTT，HHH，TTT，HHH。隐藏数据是的结果$c_0$。估计$p_0$，$p_1$和$p_2$。

从这里开始：有两个硬币$c_A$和$c_B$其中$p_A$和$p_B$分别是被抛掷落在Head上的概率。每回合随机选择一枚硬币，掷十次；记录结果。观察到的数据是这两个硬币提供的抛掷结果。但是，我们不知道为特定回合选择了哪个硬币。估计$p_A$和$p_B$。

虽然我可以得到计算结果，但是我无法将它们的求解方式与原始的EM理论联系起来。具体来说，在两个示例的M-Step中，我都看不到它们如何使任何东西最大化。似乎他们正在重新计算参数，并且以某种方式，新参数比旧参数要好。而且，这两个电子步骤看上去甚至都不相似，更不用说原始理论的电子步骤了。

那么这些示例如何工作？

（此答案使用您提供的第二个链接。）

$\newcommand{\Like}{\text{L}}\newcommand{\E}{\text{E}}$回忆一下可能性的定义： 其中在我们的情况下θ = （θ 甲，θ 乙）是用于概率估计该硬币A和B分别地磁头，X = （X 1，... ，X 5）是我们的实验的结果，各

$$\Like[\theta | X] = \Pr[X| \theta] = \sum_Z \Pr[X, Z | \theta]$$ $\theta = (\theta_A, \theta_B)$$X = (X_1, \dotsc, X_5)$由10次翻转组成，并且 Z = （Z 1，… ，Z 5） 是每个实验中使用的硬币。$X_i$$Z = (Z_1, \dotsc, Z_5)$

我们要找到最大似然估计θ。的期望最大化（EM）算法是找到（至少局部）一种这样的方法θ。它通过找到条件期望来工作，然后将其用于最大化θ。这个想法是通过 在每次迭代中不断寻找一个更可能（即更可能）的θ，我们将不断增加Pr [ X ，Z | θ ]继而增加似然函数。在继续设计基于EM的算法之前，需要完成三件事。$\hat{\theta}$$\hat{\theta}$$\theta$$\theta$$\Pr[X,Z|\theta]$

1. 建立模型
2. 在模型下计算条件期望（电子步）
3. 通过更新当前对估计来最大化我们的可能性（M步）$\theta$

构造模型

在继续使用EM之前，我们需要弄清楚我们正在计算的是什么。在E步中，我们正在精确计算的期望值。θ ]。那么，这个值到底是什么？观察该 日志Pr [ X ，Z | θ $\log \Pr[X,Z|\theta]$ 原因是我们要进行5个实验，而且我们不知道每个实验都使用了哪种硬币。不等式是由于对数是凹面的并且应用了Jensen的不等式。我们需要下限的原因是我们无法直接计算原始方程式的arg max。但是，我们可以计算出最终的下限。

$$\begin{align*} \log \Pr[X,Z|\theta] &= \sum_{i=1}^5 \log\sum_{C\in \{A,B\}}\Pr[X_i, Z_i=C| \theta]\\ &=\sum_{i=1}^5 \log\sum_{C\in \{A,B\}} \Pr[Z_i=C | X_i, \theta] \cdot \frac{\Pr[X_i, Z_i=C| \theta]}{\Pr[Z_i=C | X_i, \theta]}\\ &\geq \sum_{i=1}^5 \sum_{C\in \{A,B\}} \Pr[Z_i=C | X_i, \theta] \cdot \log\frac{\Pr[X_i, Z_i=C| \theta]}{\Pr[Z_i=C | X_i, \theta]}. \end{align*}$$ $\log$

现在什么是？给定实验X i和θ，这是我们看到硬币C的概率。使用条件概率，我们有Pr [ Z i = C | X i，θ ] = Pr [ X i，Z i = C | θ $\Pr[Z_i=C|X_i,\theta]$$C$$X_i$$\theta$

$$\Pr[Z_i=C| X_i, \theta] = \frac{\Pr[X_i, Z_i = C|\theta]}{\Pr[X_i|\theta]}.$$

尽管我们已经取得了一些进展，但是我们还没有完成该模型。给定硬币翻转序列的概率是多少？令h i = ＃in  X i Pr [ X i，Z $X_i$$h_i = \#\text{heads in } X_i$ 现在，Pr[Xi| θ]显然只是Zi=A或Zi=B的两种可能性下的概率。由于Pr[Zi=A]=Pr

$$\Pr[X_i, Z_i = C| \theta] = \frac{1}{2} \cdot \theta_C^{h_i} (1 - \theta_C)^{10 - h_i},\ \text{ for } \ C \in \{A, B\}.$$ $\Pr[X_i|\theta]$$Z_i=A$$Z_i=B$，我们有， $\Pr[Z_i = A] = \Pr[Z_i = B] = 1/2$ $$\Pr[X_i|\theta] = 1/2 \cdot (\Pr[X_i |Z_i = A, \theta] + \Pr[X_i |Z_i = B, \theta]).$$

电子步

好的，这并不是很有趣，但是我们现在可以开始进行一些EM工作。EM算法首先对进行一些随机猜测。在这个例子中，我们有θ 0 = （0.6 ，0.5 ）。我们计算 Pr [ Z 1 = A | X 1，θ ] = 1 / 2 ⋅ （0.6 5 ⋅ 0.4 5$\theta$$\theta^0 = (0.6,0.5)$ 该值与本文中的内容一致。现在我们可以从硬币A， E计算X1=（H，T，T，T，T，H，H，T，H，T，H）中的期望正面数

$$\Pr[Z_1=A|X_1,\theta] = \frac{1/2 \cdot (0.6^5 \cdot 0.4^5)}{1/2 \cdot ((0.6^5 \cdot 0.4^5) + (0.5^5 \cdot 0.5^5))} \approx 0.45.$$ $X_1 = (H,T,T,T,H,H,T,H,T,H)$$A$ ħ 1 ⋅ 镨[ Ž 1 = 乙 对得到的硬币 B做同样的事情， E [ 硬币B的＃个头  | X 1，θ ] = | X 1，θ ] = 5 ⋅ 0.55 ≈ $$\E[\# \text{heads by coin }A | X_1, \theta] = h_1 \cdot \Pr[Z_1=A|X_1,\theta] = 5 \cdot 0.45 \approx 2.2.$$ $B$ $$\E[\# \text{heads by coin }B | X_1, \theta] = h_1 \cdot \Pr[Z_1=B|X_1,\theta] = 5 \cdot 0.55 \approx 2.8.$$ 通过用代替10 - h 1，我们可以计算出相同的尾数。这个持续的所有其他值X 我和ħ 我 1 ≤ 我≤ 5。由于期望的线性，我们可以找出 E [ ＃个硬币A的头部  | X ，θ ] = 5 ∑ i = $h_1$$10 - h_1$$X_i$$h_i$ $1 \leq i \leq 5$ $$\E[\#\text{heads by coin } A|X ,\theta] = \sum_{i=1}^5 \E[\# \text{heads by coin }A | X_i, \theta]$$

M步

$\theta$

$$\theta_A^1 = \frac{E[\#\text{heads over } X \text{ by coin } A|X ,\theta]}{E[\#\text{heads and tails over } X \text{ by coin } A|X ,\theta]} = \frac{21.3}{21.3 + 9.6} \approx 0.71.$$ $B$$\theta^1$$\theta$$\hat{\theta} = \theta^{10} = (0.8, 0.52)$$\Pr[X,Z|\theta]$$\theta$

$\hat{\theta}$