Aug, 2015

使用深度神经网络从 LDA 模型中学习

PDF
TL;DR本研究提出了一种使用深度神经网络预测 LDA 模型中潜在主题分布的方法，借鉴了迁移学习的思想，实现了在大大降低计算时间的同时取得较好的分类效果。
latent dirichlet allocationtopic inferencedeep neural networktransfer learningdocument classification
发现论文，激发创造
  • 信念传播学习主题模型

    该研究提出了一种基于马尔可夫随机场框架下的因子图表示方法，实现了传统信念传播算法对隐含狄利克雷分配模型的近似推理和参数估计，该算法在速度和准确性方面均具有竞争力，并且可以成为基于 LDA 的话题模型的通用学习方案。

    Sep, 2011

  • 深度线性判别分析

    本文提出了 Deep Linear Discriminant Analysis（DeepLDA）方法，通过在深度神经网络中，学习可分离的线性潜在表示以进行分类的降维。作者的目标是最大化特征分布的相似度以推广传统的 LDA 算法，通过三个基准数据集的评估，DeepLDA 在 MNIST 和 CIFAR-10 上得到了竞争性的结果，在 STL-10 上也优于使用分类交叉熵进行训练的网络。

    Nov, 2015

  • 通过深度架构上的镜像下降反向传播进行 LDA 的端到端学习

    本研究开发了 BP-sLDA 和 BP-LDA，前者是一个完全判别式的学习方法，后者是一个新的无监督 Latent Dirichlet Allocation 模型的学习方法，二者都采用了反向传播算法和镜像下降算法进行参数估计，并取得了比之前的模型更好的效果。

    Aug, 2015

  • 监督式主题模型

    介绍了一种新的统计模型 —— 监督潜在狄利克雷分配（SLDA），应用变分方法处理难以计算的后验期望，解决回答类型的多样性并预测新文档的回答数值。与现代正则化回归以及无监督 LDA 分析相比，SLDA 有显著优势。

    Mar, 2010

  • 一种高再现性和高准确度的自动化主题分类方法

    通过比较 LDA 和社区检测算法的优缺点，该研究提出一种用于主题发现的新算法，可在英文维基百科大规模文章中展现层次结构，提高文本分析系统的可靠性。

    Feb, 2014

  • Peacock: 针对工业应用学习长尾话题特征

    本文提出了一个新的分布式系统 Peacock，以学习大规模的 LDA 主题模型，可以从大规模数据集中推断出至少 10^5 个主题，对于工业搜索引擎和在线广告系统都有显著的提高。

    May, 2014

  • 随机折叠变分贝叶斯推断用于潜在狄利克雷分配

    该研究提出了一种基于折叠变分贝叶斯推断技术的随机算法，能快速准确地从大规模数字文本信息中学习话题模型并与人交互分析。

    May, 2013

  • 多模态数据主题建模的深度和自回归方法

    本研究采用新型主题模型 DocNADE 扩展，提出了 SupDocNADE 模型，并成功将其应用于多模态数据，实现了图像标注和分类的联合表示，并取得了 state-of-the-art 的性能表现。同时，也在深度模型方面进行了探索，表现出更出色的结果。

    Sep, 2014

  • 通过潜在表示分析的深度透明预测

    通过提取 Deep Neural Networks 中的潜在信息来获取简洁的表示形式，并实现有效、统一的分析以进行预测，从而结合透明度和高预测准确性的目标，提高在 healthcare 领域的可信性和个性化的问题。

    Sep, 2020

  • 无监督声学单元发现的潜在狄利克雷分配的时间扩展

    本文介绍了一种扩展 LDA 模型的方法，利用马尔可夫链来建模时间信息，从而用于语音信号的无监督单元发现。与基本的 LDA 模型相比，扩展后的模型可以更好地描述相邻单元之间的关系，从而得到更好的语音单元划分结果。

    Jun, 2022