ACLMay, 2022

CTM-- 大规模多视角推文主题分类模型

PDF
TL;DR本文利用提出的神经模型 CTM，从社交媒体中的多模态内容、作者上下文和深层语义线索等方面进行综合建模，从而支持 $300$ 个主题的大规模话题分类，并在 Twitter 上实现了显着的性能提升（相对平均精度分数提高 20%），此方法已成功应用于 Twitter 的生产环境。
发现论文，激发创造
  • Twitter 主题分类

    本文针对社交媒体中讨论的各种话题，通过推文主题分类研究，提供两个相关数据集用于评估推文分类模型，并在语言模型上进行量化评估和分析。

    Sep, 2022

  • 协同主题建模

    我们提出了一种名为 “协调主题建模” 的新问题，旨在通过复用现有知识来更加可解释地表示语料库，并设计了一种基于嵌入式的协调主题模型（ECTM），该模型通过引入主题和文档级别的监督和自训练机制来解决此问题，并在多个领域进行的广泛实验表明我们的模型优于其他基线。

    Oct, 2022

  • 上下文化主题一致性度量

    本研究提出了一种基于 LLM 的方法，受到人类主题评估的启发，实现了语境化主题连贯性（CTC）度量，其在自动化主题连贯性方法方面表现出色，可应用于短文本，并不容易受到高分却无意义的主题干扰。

    May, 2023

  • 超越自动化评估指标：在实践中评估主题模型在社会科学内容分析任务上的能力

    通过对话题模型进行评估，发现神经网络模型（NTMs）在实际任务中的效果优于传统模型，且自动评估指标无法提供全面的话题建模能力。

    Jan, 2024

  • 主题组成神经语言模型

    我们提出了一个名为 TCNLM 的话题组成神经语言模型，它通过神经话题模型来学习文档的全局语义连贯性，并通过混合专家语言模型来学习本地单词顺序结构，同时使用矩阵分解方法使模型更高效地训练，可生成有意义的话题和句子。

    Dec, 2017

  • 词网络话题模型：短文本和不平衡文本的简单通用解决方案

    本文提出了一种基于词共现网络的模型 WNTM，通过模拟每个词的主题分布来解决短文本的稀疏性和不平衡性问题，并通过使用与 LDA 相同的 Gibbs 采样使得 WNTM 易于扩展到各种应用场景。对短文本和普通文本的广泛验证证明了 WNTM 相对于基线方法具有更好的性能，并且可以精确地发现微博等应用程序中新兴主题或意外事件。

    Dec, 2014

  • InfoCTM: 跨语言主题建模的互信息最大化视角

    本文提出了一种基于互信息的跨语言主题建模方法，通过采用主题对齐和词汇链接技术，解决了其他方法中主题重复和低覆盖字典的问题，并在英文、中文和日文数据集上得到了良好的结果。

    Apr, 2023

  • 基于匹配的多类文本分类

    本文提出了一种 TCM 框架，将文本分类视为标签与文本间的匹配问题，并且使用细粒度语义信息来区分大量类别，尤其是在低资源情况下。通过对 4 个多标签文本分类数据集的评估，TCM 展现出比前人方法显著的改进。

    May, 2022

  • ANTM: 基于对齐的神经主题模型用于探索快速演化的话题

    本文介绍了 Aligned Neural Topic Model（ANTM）, 一种动态神经主题模型，它使用文本嵌入来计算不同时间段内的语义相似文档的集群，并对齐文档集群以表示其演变。实验证明 ANTM 在主题相干性和多样性方面均优于其他模型。

    Feb, 2023

  • 主题 - 语义对比学习减轻短文本主题建模中的数据稀疏性

    提出了一种新颖的短文本主题建模框架 Topic-Semantic Contrastive Topic Model (TSCTM)，采用一种新的对比学习方法来丰富学习信号并缓解数据稀疏问题，该方法优于现有的基线模型，不受数据增强可用性限制，能够产生高质量的主题和主题分布。

    Nov, 2022