给定的MLE（马尔可夫链）计算对数似然

我目前正在与马尔可夫链一起工作，并使用多个来源建议的转移概率（即，从a到b的转移数除以从a到其他节点的总体转移数）来计算最大似然估计。

我现在要计算MLE的对数似然率。

让是马尔可夫链的路径，并让是观察路径的概率时就是真实参数值（也称为的似然函数）。使用条件概率的定义，我们知道$\{ X_i \}_{i=1}^{T}$$P_{\theta}(X_1, ..., X_T)$$\theta$$\theta$

$$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$$

由于这是一个马尔可夫链，我们知道，因此简化为$P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

$$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$$

现在，如果您重复相同的逻辑次，您将得到$T$

$$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$$

其中将被解释为过程的初始状态。右侧的术语只是过渡矩阵的元素。由于这是您要求的对数可能性，因此最终答案是：$X_0$

$${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$$

这是单个马尔可夫链的可能性-如果您的数据集包含多个（独立的）马尔可夫链，则全部可能性将是这种形式的项的总和。