Jan, 2022

应用通用序列到序列模型实现简单有效的关键词生成

PDF
TL;DR本研究旨在展示使用 seq2seq 语言模型 BART，在一个简单的训练过程中能够轻松地从文本中生成关键词短语，并在五个基准测试中获得与现有最先进 KPG 系统一样好的实证结果，同时也拥有简单易部署的框架。
发现论文，激发创造
  • 基于预训练序列到序列模型的关键词生成中的模型选择和解码重新思考

    通过对模型选择和解码策略的系统分析，本文提出 DeSel 算法，通过对 5 个数据集进行评估，平均提高 4.7% 的语义 F1 得分，为基于预训练语言模型的关键词生成（KPG）领域的深入研究奠定了基础。

    Oct, 2023

  • 面向话题的社交媒体语言神经关键短语生成

    研究自动理解社交媒体上的用户生成内容，利用基于序列到序列模型的神经关键短语生成框架提取突出信息，并允许生成缺失关键短语。实验表明该模型在三个数据集中表现优异，能学习有意义的主题，从而解释其在社交媒体关键短语生成中的优越性。

    Jun, 2019

  • One2Set：生成关键词集合的多样性关键词生成模型

    本研究提出一种新的训练模式 One2Set 及利用对一组特定控制码的应用实现并行生成关键词集的新型模型，同时通过二分图匹配的 $k$-step 目标分配机制增加关键词生成的多样性和降低重复率，实验结果表明本方法显著优于现有最优方法。

    May, 2021

  • 神经关键词生成：分析与评估

    本文研究了三种强大的编码 - 解码模型 (T5、 CatSeq-Transformer 和 ExHiRD) 的性能和行为，分析了预测置信度得分、模型校准和密钥短语生成的令牌位置对其的影响，提出了一个新的度量框架 SoftKeyScore。结果表明，相比于标准的 F1 指标，SoftKeyScore 更适合用于评估两组给定关键词。

    Apr, 2023

  • 领域自适应关键词生成的从一般到特定的转移标注

    本文提出了一种通过使用一种数据有效的三阶段流程来训练关键短语生成（KPG）模型的方法，从而解决大型分布位移对不同领域 KPG 模型之间的转移性造成的严重障碍问题，并获得了在新领域中产生良好质量关键短语的结果。

    Aug, 2022

  • 神经关键词生成的实证研究

    本文通过实证研究和数据分析，对神经关键词生成（KPG）任务中的不同模型设计和相关因素对其泛化性能的影响进行了全面的比较，旨在为澄清 KPG 任务的一些不确定性，促进未来的相关研究提供帮助。

    Sep, 2020

  • 科学文献检索中的关键词生成

    本文证明了 Sequence-to-sequence 模型可以显著提高文档检索性能，并介绍了一种新的外在评估框架，以更好地理解生成关键词模型的局限性，包括文档补充中所遇到的困难和模型在不同领域中的一般化问题。

    Jun, 2021

  • 一般适用规则不一定适合所有情况：生成和评估关键词的可变数量

    本研究从建模和评估的角度解决了许多现有神经关键词生成模型中缺乏多样性问题，并提出了两种评估指标和一种新数据集 StackEx，从而能够控制输出数量并在所有数据集上优于强基线。

    Oct, 2018

  • 深度关键词生成

    本研究提出了一种基于编码 - 解码框架的生成模型来预测文本的关键短语，从而能够有效地捕捉其深层语义含义，并能够识别没有在文本中出现但基于语义意义的内容。

    Apr, 2017

  • 使用预训练语言模型进行关键短语预测

    通过将关键短语预测分为现有关键短语提取与不存在关键短语生成两个子任务，并提出使用 BERT 在这两个子任务中实现联合推论的方法，本研究提供了一种全面利用提取和生成方法各自优势的方法，并在基准数据集上实现了最新的预测结果。

    Apr, 2020