Aug, 2012

非参数混合模型用于时间序列主题建模

PDF
TL;DR本文提出了一种非参数的 Topics over Time (npTOT) 模型，该模型具有无限数量的主题和对主题流行度的时间变化的灵活分布，并使用 collapsed Gibbs sampler 比较了该模型的优越性。
time-varying topicsnon-parametric modelsgibbs samplerlatent dirichlet allocationtemporal variation
发现论文，激发创造
  • 连续时间动态主题模型

    本文介绍了一种新的连续时间动态主题模型（cDTM），它使用布朗运动模拟文档序列中的潜在主题，通过稀疏观测值使用变分推理算法进行有效推断。我们在两个新闻语料库上测试了该模型，并通过预测困惑度和时间戳预测等指标进行了评估。

    Jun, 2012

  • 分析时间序列文档集的动态和静态主题模型

    本文提出一个动态和静态主题模型，能同时考虑时间上的主题演化和每个时间的主题层级结构，以此来分析结构化的时间序列文档。作者通过实验表明，该方法在科学论文集的主题提取方面优于传统模型，并展示了提取出的主题结构，以此来帮助对研究活动进行分析。

    May, 2018

  • 神经动态聚焦主题模型

    本文提出了一种基于神经组态推断的动态聚焦主题模型，该模型能够跟踪主题的出现情况以及活跃度，并在各种任务中实现了比其他主题模型更好的泛化能力和类似的预测能力。

    Jan, 2023

  • Timeline：一种动态层级狄利克雷过程模型，用于恢复文本流中主题的出生 / 死亡和演化

    本文提出了无限动态主题模型 (iDTM)，该模型能够适应文档集合中主题数量、主题分布和流行度等潜在结构的时空演化，使用该模型对 NIPS 社区中的主题进行了分析并在模拟和真实数据集上进行了评估，结果良好。

    Mar, 2012

  • 可扩展的广义动态主题模型

    本篇论文介绍了针对动态主题模型的一些新成果，包括将可计算先前从 Wiener 过程扩展到通用的高斯过程，提出了基于随机变分推理和稀疏高斯过程的可扩展近似推理方法，实验结果表明扩展模型可以发现以前无法找到的有趣模式。

    Mar, 2018

  • 神经变分推断下的离散隐变量主题挖掘

    这篇论文介绍了神经方法在主题建模中的应用，特别是提供可参数化分布以允许可变参数下的后向传播，同时提出了一种递归网络，能够类似于贝叶斯非参数主题模型发现数量概念上无限的主题，在 MXM Song Lyrics，20NewsGroups 和 Reuters News 数据集上得到了实验结果的证明。

    Jun, 2017

  • 主题模型的平滑和推断

    本文探讨了用于高维稀疏计数数据建模的潜在狄利克雷分析或话题模型，比较了多种学习算法，发现主要区别在于应用于计数的平滑量。在优化超参数时，算法性能的差异显著缩小，这使得我们能够选择计算效率高的方法来学习准确的主题模型。

    May, 2012

  • 核主题模型

    本文研究的是 Latent Dirichlet Allocation 模型的一个变体，将文档混合比重置为 squashed Gaussian 分布，从而实现对以时间、空间、层次结构、社交等方面为特征的文档的建模，同时提出了一个基于 Laplace 近似的转化基础的近似算法以便对隐藏的高斯分布进行有效的近似推断。该 KTM 模型也可以被解释为一种 Gaussian 过程潜变量模型，或基于文档特征的主题模型，在发掘这些领域的早期工作的联系时非常有用。

    Oct, 2011

  • 科学的相关主题模型

    本文提出了相关话题模型（CTM），通过逻辑正态分布，展现留言比例的相关性，我们还推导出了适用于该模型的快速变分推理算法，并将其应用于 Science 1990-1999 年间发表的文章，数据集包括 57M 词，证明 CTM 比 LDA 拟合效果更好，并将其作为大型文本集成探索性工具。

    Aug, 2007

  • 深度时间循环复制 Softmax 在时序话题趋势中的应用

    本文提出了一种新的无监督神经动态主题模型 ——RNNRSM，该模型有利于在时间序列文档集合中识别主题趋势，并引入了一个用于量化模型捕捉单词演变的指标 SPAN。通过对 19 年 NLP 研究文章的应用，与现有主题模型相比，RNNRSM 表现出更好的泛化性、主题解释性、演化和趋势性。

    Nov, 2017