May, 2023

HyHTM：基于双曲几何的分层主题模型

PDF
TL;DR使用基于双曲几何的层级主题模型（HyHTM）可以更好地对主题进行建模，使得特定的低级主题与相应的高级主题关联更紧密。同时，该模型也具备更高的计算效率和更小的内存占用。
hierarchical topic modelshyhtmhyperbolic geometrytopic hierarchiesparent-child relationships
发现论文，激发创造
  • 层次主题检测的潜在树模型

    我们提出了一种新颖的分层主题检测方法，使用层次潜在树模型来对文档进行聚类并检测主题，该模型使用二元变量来表示文档中单词的存在 / 缺失，并利用树形结构建模主题和单词之间的关系，因此不需要引用文档生成过程，有助于发现有意义的主题和主题层次结构。

    May, 2016

  • 通过联合球树和文本嵌入进行层次主题挖掘

    提出了一种新方法：基于类别树描述的文本语料库的层次话题挖掘，通过开发一种新的联合树和文本嵌入方法，同时建模类别树结构和语料库生成过程来实现有效的层次话题挖掘，发现代表性词。该方法具有高效的性能和弱监督下的分类任务性能优势。

    Jul, 2020

  • 走向神经主题表示的泛化

    提出了一种通过模型相似度来改进神经主题模型的方法，利用数据增强和层次化主题传输距离来计算文档之间的语义距离，从而显著提高神经主题模型在不同语料库中的泛化能力。

    Jul, 2023

  • 自动主题生成的分层潜在语义映射

    本文提出一种新的名为 Hierarchical Latent Semantic Mapping (HLSM) 的主题生成方法，它可以自动从语料库中生成主题，并使用单词之间的关联和层次生成主题网络。实验表明，相比于现有的一些最先进的方法，HLSM 在几个文档集合上表现良好。

    Nov, 2015

  • 语言模型作为层次编码器

    利用超几何空间重新训练语言模型中的分层转换器编码器（Hierarchy Transformer encoders，HiTs），为回归语言模型中隐含的分层结构提供了一种新的方法，通过聚类与层级组织相关实体来提高在推论、预测和跨层次知识传递等任务中的性能和可转移性。

    Jan, 2024

  • 主题模型的几何结构

    使用关系顺序结构从平面主题模型中提取概念关系，引入一种适用于主题空间的自顶向下视角的新可视化范例。

    Mar, 2024

  • HyperText: 用双曲几何赋予 FastText 更强的能力

    本研究利用深度神经网络欧几里得空间模拟文本分类效果有限，为了更准确地模拟树形层次化数据，我们提出了一种基于超伪距离实现的文本分类模型，称为 HyperText。实验证明，HyperText 在多项文本分类任务上的表现优于 FastText，并大量减少了参数量。

    Oct, 2020

  • 文档网络的分层关系模型

    本文提出了一种关系主题模型，可以用于文档网络的摘要、链接预测和内部词汇预测等方面，并基于变分方法构建了高效的推断和估计算法。

    Sep, 2009

  • 科学文档的层次多标签分类

    本文介绍一种新的数据集 SciHTC，包含 186,160 篇论文和 1,233 个学科分类，建立了层次化多标签文本分类的强基线，并提出了一种多任务学习方法来进行主题分类，获得 Macro-F1 得分 34.57％，显示这个数据集提供了显著的研究机会。

    Nov, 2022

  • 知识感知的贝叶斯深度主题模型

    提出了一种 Bayesian 生成模型来将先验领域知识融入到分层主题建模中，从而形成可解释的分类。

    Sep, 2022