Mallet LDA 主题建模中的空主题

Question

当我运行 Mallet LDA 具有更多主题（例如 T > 300）时，我得到的主题带有空主题词（没有单个主题词）。

为什么会这样？这是 Mallet 中的错误吗？

我在 ubuntu 14.04 机器上使用 mallet 2.0.7。

编辑

mallet-2.0.7/bin/mallet import-dir --input $path/$posts --output $outputDir/$posts.mallet \
        --keep-sequence --remove-stopwords --token-regex "[\p{Alpha}_]+"  #--save-text-in-source

  mallet-2.0.7/bin/mallet train-topics --input $outputDir/$posts.mallet \
        --num-topics $topics --output-state $outputDir/topic-state.gz \
        --output-topic-keys $outputDir/topics.txt --output-doc-topics $outputDir/document_composition.txt \
        --topic-word-weights-file $outputDir/topic_word_weights.txt --num-top-words $numtopwords \
        --optimize-interval 10 --word-topic-counts-file $outputDir/topic_counts.txt

关于语料库的详细信息，它包含大约 1000 个文件。每个文件可能包含一个或几个句子。语料库非常小，大约 1 MB。

Answer 1

我从 David Mimno 那里得到的答案：

这通常表示相对于语料库的大小，您拥有大量主题。 Mallet 使用 Gibbs 抽样，因此主题基于当前分配给主题的令牌的实际计数。这些 "empty" 主题本身并没有什么问题，只要您知道不要过于相信它们即可。

Mallet LDA 主题建模中的空主题

empty topics in Mallet LDA topic modeling

java

topic-modeling

mallet