使用潜在Dirichlet分配的主题预测

我在一组文档上使用了LDA，并发现了一些主题。我的代码的输出是两个包含概率的矩阵。一个doc-topic概率，另一个word-topic概率。但是我实际上不知道如何使用这些结果来预测新文档的主题。我正在使用Gibbs采样。有人知道吗？谢谢

我会尝试“折叠”。这是指获取一个新文档，将其添加到语料库，然后仅对该新文档中的单词运行Gibbs采样，同时使旧文档的主题分配保持不变。这通常会快速收敛（可能是5-10-20次迭代），并且您不需要采样旧的语料库，因此它也运行很快。最后，您将为新文档中的每个单词分配主题。这将使您可以分配该文档中的主题。

在您的Gibbs采样器中，您可能具有类似于以下代码的内容：

// This will initialize the matrices of counts, N_tw (topic-word matrix) and N_dt (document-topic matrix)
for doc = 1 to N_Documents
    for token = 1 to N_Tokens_In_Document
       Assign current token to a random topic, updating the count matrices
    end
end

// This will do the Gibbs sampling
for doc = 1 to N_Documents
    for token = 1 to N_Tokens_In_Document
       Compute probability of current token being assigned to each topic
       Sample a topic from this distribution
       Assign the token to the new topic, updating the count matrices
    end
end

折入是相同的，只是您从现有矩阵开始，将新文档的标记添加到其中，并仅对新标记进行采样。即：

Start with the N_tw and N_dt matrices from the previous step

// This will update the count matrices for folding-in
for token = 1 to N_Tokens_In_New_Document
   Assign current token to a random topic, updating the count matrices
end

// This will do the folding-in by Gibbs sampling
for token = 1 to N_Tokens_In_New_Document
   Compute probability of current token being assigned to each topic
   Sample a topic from this distribution
   Assign the token to the new topic, updating the count matrices
end

$p^i_w$$w$$i$$j$$w_j$