Jan, 2023

ClusTop: 一种无监督和集成的文本聚类和主题提取框架

PDF
TL;DR本文提出了一个无监督文本聚类与主题提取框架 “ClusTop”，该框架将文本聚类和主题提取整合到一个统一的框架中，并可以同时实现高质量的聚类结果和从每个聚类中提取主题。该框架包括四个组件：增强语言模型训练、降维、聚类和主题提取。
text clusteringtopic extractionunsupervised learninglanguage modeldimensionality reduction
发现论文，激发创造
  • 文档聚类与主题建模的整合

    提出了一种多粒度聚类主题模型（MGCTM），它将文件聚类和主题建模集成到一个统一的框架中，并共同执行这两个任务以实现整体最佳性能。

    Sep, 2013

  • TaxoGen: 自适应术语嵌入与聚类的无监督主题分类构建

    本文提出了一种采用嵌入术和层次聚类方法的主题分类法 TaxoGen，通过每个节点表示概念主题，定义为语义一致概念项的聚类，以构建主题分类法，并对两个真实数据进行了实验，证明了其与基线方法的有效性。

    Dec, 2018

  • 基于图的语义提取文本分析

    本文介绍了针对文本数据的关键词提取和文本摘要的处理方法，介绍了一种基于 TextRank 算法的无监督学习方法，在其基础上提高了算法的效率，并针对其忽略了不同部分的语义相似性进行了改进。此外，还开发了一种基于该框架的主题聚类算法，可单独使用或作为生成摘要的一部分来解决文本覆盖问题。

    Dec, 2022

  • 话题作为实体聚类：基于语言模型和图神经网络的基于实体的话题

    我们提出了一种基于聚类的主题建模方法，使用概念实体作为语言无关的表示，并使用图神经网络从百科全书语料库和知识库中提取实体的向量表示，该方法在连贯性度量方面始终优于其他主题模型。

    Jan, 2023

  • 基于词嵌入的主题建模流程

    通过结合基于词嵌入、降维和聚类的算法，本研究旨在从未分类的文本集合中获取主题；文本嵌入算法采用了 BERT 模型，这是一种在自然语言处理任务中广泛应用的神经网络架构；为了处理高维数据，使用 UMAP 降维技术，能保留原始数据的局部和全局信息的一部分；K-Means 作为聚类算法，用于获取主题；然后，使用 TF-IDF 统计、主题多样性和主题连贯性来评估主题的含义；该过程的结果显示出较好的数值，因此主题建模是一种可以对无标签文本进行分类或聚类的可行选择。

    Oct, 2023

  • 文本语料库中的可扩展主题短语挖掘

    本文提出一种基于短语挖掘算法的主题模型，该算法能够在保证计算效率的同时，高效地发现论文标题、摘要、评论和新闻文章等多种数据集中的高质量主题短语。

    Jun, 2014

  • 厌倦主题模型？预训练词嵌入聚类同样适用于快速且良好的主题！

    本文提出了一种利用预训练单词嵌入进行文本聚类的新方法，同时整合文本信息进行加权聚类并重新排名前几个单词，旨在挖掘出文档集合中的主题，并对其性能进行基准测试并分析其在降维中的性能。实验表明，所提出的方法在降低时间和计算复杂度同时不输于传统的概率主题模型。

    Apr, 2020

  • 稻草堆中的话题：超越一致性的话题提取和评估

    该研究提出了一种方法，通过对句子和文档的主题进行深入理解，不仅分析数据中的词频，而且可以检测包括非常见词或新词在内的潜在主题，还使用了基于语义空间的异类词和相似性度量等新的评价指标，并通过与人工识别相似性度量的相关系数，在文本挖掘方面展现出优秀的性能结果。

    Mar, 2023

  • UCTopic：无监督对比学习短语表征与主题挖掘

    本文提出了 UCTopic，一种使用无监督对比学习框架来学习上下文感知短语表示和进行主题挖掘，通过正对构建来预训练 UCTopic，使用聚类辅助对比学习 (CCL) 显着降低噪声负例，进一步提高了短语表示的类别学习效果，在实体聚类任务上优于现有的同类模型。

    Feb, 2022

  • 上下文化注意力嵌入的主题

    通过设计不同的探针实验，使用 BERT 和 DistilBERT，我们发现注意力框架在模拟主题词簇时发挥了关键作用，这为探讨概率主题模型和预训练语言模型之间的关系铺平了道路。

    Jan, 2023