Jun, 2012

连续时间动态主题模型

PDF
TL;DR本文介绍了一种新的连续时间动态主题模型（cDTM），它使用布朗运动模拟文档序列中的潜在主题，通过稀疏观测值使用变分推理算法进行有效推断。我们在两个新闻语料库上测试了该模型，并通过预测困惑度和时间戳预测等指标进行了评估。
continuous time dynamic topic modellatent topicsvariational inferencenews corporatime stamp prediction
发现论文，激发创造
  • 可扩展的广义动态主题模型

    本篇论文介绍了针对动态主题模型的一些新成果，包括将可计算先前从 Wiener 过程扩展到通用的高斯过程，提出了基于随机变分推理和稀疏高斯过程的可扩展近似推理方法，实验结果表明扩展模型可以发现以前无法找到的有趣模式。

    Mar, 2018

  • CFTM：连续时间分数主题模型

    本文介绍了连续时间分数主题模型（cFTM），这是一种新的动态主题建模方法，它利用分数布朗运动（fBm）有效地识别时间上的主题和词分布的正向或负向相关性，揭示出长期依赖或粗糙性。我们的理论分析证明了 cFTM 可以捕捉主题和词分布中的这种长期依赖或粗糙性，反映了 fBm 的主要特征。此外，我们证明了 cFTM 的参数估计过程与 LDA（传统主题模型）的相当。为了验证 cFTM 的性能，我们使用经济新闻文章进行了实证研究。这些测试的结果支持该模型在跟踪主题的长期依赖或粗糙性方面的能力。

    Jan, 2024

  • Timeline：一种动态层级狄利克雷过程模型，用于恢复文本流中主题的出生 / 死亡和演化

    本文提出了无限动态主题模型 (iDTM)，该模型能够适应文档集合中主题数量、主题分布和流行度等潜在结构的时空演化，使用该模型对 NIPS 社区中的主题进行了分析并在模拟和真实数据集上进行了评估，结果良好。

    Mar, 2012

  • 动态嵌入主题模型

    该研究采用动态主题模型和词嵌入模型组合设计了一种动态嵌入主题模型，通过向每个时间步长中的嵌入表示赋值主题，该模型能够学习到平滑的主题轨迹，并在三个不同的语料库上发现，在文档完成任务中，该模型优于动态 LDA，而且比 LDA 更易于训练。

    Jul, 2019

  • 神经动态聚焦主题模型

    本文提出了一种基于神经组态推断的动态聚焦主题模型，该模型能够跟踪主题的出现情况以及活跃度，并在各种任务中实现了比其他主题模型更好的泛化能力和类似的预测能力。

    Jan, 2023

  • 非参数混合模型用于时间序列主题建模

    本文提出了一种非参数的 Topics over Time (npTOT) 模型，该模型具有无限数量的主题和对主题流行度的时间变化的灵活分布，并使用 collapsed Gibbs sampler 比较了该模型的优越性。

    Aug, 2012

  • 分析时间序列文档集的动态和静态主题模型

    本文提出一个动态和静态主题模型，能同时考虑时间上的主题演化和每个时间的主题层级结构，以此来分析结构化的时间序列文档。作者通过实验表明，该方法在科学论文集的主题提取方面优于传统模型，并展示了提取出的主题结构，以此来帮助对研究活动进行分析。

    May, 2018

  • 评估动态主题模型

    本研究提出了一种用于动态主题模型中定量评估主题演变的新型评估方法，分析了每个主题在时间上的质量变化，并将主题质量与模型的时间一致性相结合。通过对合成数据和现有动态主题模型数据的应用以及人工评估，验证了所提出的评估方法的实用性。研究结果可用于识别变化的主题，评估不同的动态主题模型，并指导未来研究。

    Sep, 2023

  • 科学的相关主题模型

    本文提出了相关话题模型（CTM），通过逻辑正态分布，展现留言比例的相关性，我们还推导出了适用于该模型的快速变分推理算法，并将其应用于 Science 1990-1999 年间发表的文章，数据集包括 57M 词，证明 CTM 比 LDA 拟合效果更好，并将其作为大型文本集成探索性工具。

    Aug, 2007

  • 动态词向量

    该研究提出了一种基于概率的语言模型，可以跟踪个别单词随时间的语义演变，并通过嵌入空间中的潜在轨迹表示单词和上下文。研究发现，该动态模型推断的单词嵌入轨迹更易解释，并且具有更高的预测性可能性。

    Feb, 2017