May, 2013

随机折叠变分贝叶斯推断用于潜在狄利克雷分配

PDF
TL;DR该研究提出了一种基于折叠变分贝叶斯推断技术的随机算法，能快速准确地从大规模数字文本信息中学习话题模型并与人交互分析。
digital texttopic modelsstochastic variational inference algorithmslatent dirichlet allocationcollapsed variational bayesian inference
发现论文，激发创造
  • HDP 的实用化折叠随机变分推断

    本研究探索了一种基于随机变分贝叶斯推断的层次狄利克雷过程主题模型的折叠式推断方法，该算法易于实现并考虑了超参数的推断，实验结果显示在预测性能方面有很好的提升。

    Dec, 2013

  • 潜在狄利克雷分配的稀疏随机推断

    本文提出了一种混合算法，将稀疏 Gibbs 采样的效率与在线随机推断的可扩展性相结合，用于分析包含 120 万本书（330 亿词）的语料库，在多个 Bayesian 隐变量模型中具有广泛的推广能力。

    Jun, 2012

  • SimLDA：主题模型评估工具

    本文介绍了一种新的变分信息传递算法，名为 ALBU，用于在有限数据情况下识别 LDA 模型中的方面，并在推特和新闻组数据集上与 VB 算法进行比较，展示 ALBU 算法在小型数据集表现出更高精度的潜在分布学习能力。

    Aug, 2022

  • 信念传播学习主题模型

    该研究提出了一种基于马尔可夫随机场框架下的因子图表示方法，实现了传统信念传播算法对隐含狄利克雷分配模型的近似推理和参数估计，该算法在速度和准确性方面均具有竞争力，并且可以成为基于 LDA 的话题模型的通用学习方案。

    Sep, 2011

  • 随机变分推断

    本研究开发了基于随机变分推断的可伸缩算法，用于逼近后验概率分布，并且针对一类大规模的概率模型进行了技术开发；对两个概率主题模型进行了演示并应用于大量文献数据的分析，其中包括自然杂志、《纽约时报》和维基百科，结果表明随机变分推断可轻松处理大型数据集并优于传统变分推断，并且表明贝叶斯非参数主题模型优于参数主题模型；因此基于随机变分推断的算法可以将复杂的贝叶斯模型应用于大规模的数据集。

    Jun, 2012

  • 潜在狄利克雷分配的谱算法

    提出了一种名为 ECA 的学习流程，基于低阶矩的光谱分解，它可以恢复多种混合模型的参数，并在仅使用三元统计时正确恢复主题概率向量和主题优先级，因此具有可扩展性。

    Apr, 2012

  • 主题模型的平滑和推断

    本文探讨了用于高维稀疏计数数据建模的潜在狄利克雷分析或话题模型，比较了多种学习算法，发现主要区别在于应用于计数的平滑量。在优化超参数时，算法性能的差异显著缩小，这使得我们能够选择计算效率高的方法来学习准确的主题模型。

    May, 2012

  • 监督式主题模型

    介绍了一种新的统计模型 —— 监督潜在狄利克雷分配（SLDA），应用变分方法处理难以计算的后验期望，解决回答类型的多样性并预测新文档的回答数值。与现代正则化回归以及无监督 LDA 分析相比，SLDA 有显著优势。

    Mar, 2010

  • 一种高再现性和高准确度的自动化主题分类方法

    通过比较 LDA 和社区检测算法的优缺点，该研究提出一种用于主题发现的新算法，可在英文维基百科大规模文章中展现层次结构，提高文本分析系统的可靠性。

    Feb, 2014

  • 具有主题层自适应随机梯度黎曼 MCMC 的深层潜在狄利克雷分配

    针对深度离散潜变量模型中的梯度计算和步长适应问题，本论文提出了利用数据增广和边缘化技术，得到分块对角 Fisher 信息矩阵及其逆的深度潜在狄利克雷分配表示，并利用该矩阵和随机梯度马尔科夫链蒙特卡罗方法，提出了主题 - 层适应性的随机梯度里曼蒙特卡罗方法，可全局学习所有层和主题的全局参数，实现了在大数据集上的最新成果。

    Jun, 2017