如何计算潜在的Dirichlet分配的坚持的困惑？

我对进行潜在狄利克雷分配（LDA）时如何计算保留样本的困惑度感到困惑。有关该主题的论文轻而易举，使我觉得我缺少明显的东西...

困惑被视为LDA性能的良好衡量标准。这样做的想法是，您保留一个保留样本，在其余数据上训练LDA，然后计算保留的复杂性。

困惑可以由以下公式给出：

$per(D_{test})=exp\{-\frac{\sum_{d=1}^{M}\log p(\mathbb{w}_d)}{\sum_{d=1}^{M}N_d}\}$

（摘自Horster等人的大型图像数据库上的图像检索）。

这里 $M$是文档的数量（测试样品中，据推测），$\mathbb{w}_d$表示在文件的话$d$，$N_d$在文档的单词数$d$。

我不清楚如何合理地计算$p(\mathbb{w}_d)$，因为我们没有所保留文档的主题组合。理想情况下，我们将对所有可能的主题混合在Dirichlet之前进行积分，并使用我们学到的主题多项式。但是，计算此积分似乎并不容易。

或者，我们可以尝试为每个坚持的文档（考虑到我们所学的主题）学习最佳的主题组合，并以此来计算困惑度。这是可行的，但是它并不像Horter等人和Blei等人的论文所暗示的那么琐碎，而且我还不清楚我的结果是否等同于上述理想情况。

确实，这确实经常被掩盖。

有些人做起来有些厚颜无耻：在每个文档中保留一定比例的单词，并根据文档-主题混合以及主题-单词混合使用这些保留单词的预测概率。这显然不理想，因为它不评估任何保留文档的性能。

为了按照建议使用保留的文档正确执行此操作，您确实需要“在所有可能的主题混合之前先对Dirichlet进行集成”。http://people.cs.umass.edu/~wallach/talks/evaluation.pdf回顾了一些解决这个略微令人讨厌的积分的方法。实际上，我将尝试自己实现此功能，祝您好运！

我们知道LDA的参数是通过变分推断来估计的。所以

$\log p(w|\alpha, \beta) = E[\log p(\theta,z,w|\alpha,\beta)]-E[\log q(\theta,z)] + D(q(\theta,z)||p(\theta,z))$

$D(q(\theta,z)||p(\theta,z)) = 0$$\log p(w|\alpha, \beta) = E[\log p(\theta,z,w|\alpha,\beta)]-E[\log q(\theta,z)]$，这就是可能性。

$\log p(w|\alpha, \beta)$