EMNLPOct, 2023

SimCKP：关键短语表示的简洁对比学习

PDF
TL;DR我们提出了一个简单的对比学习框架 SimCKP，它由两个阶段组成：1）一个提取器 - 生成器，通过对比学习的方式学习上下文感知的短语级表示，同时生成不出现在文档中的关键短语；2）一个重新排序器，通过将生成的短语的表示与相应的文档对齐来调整每个短语的得分。在多个基准数据集上的实验结果证明了我们提出的方法的有效性，其性能明显优于现有的模型。
keyphrase generationkeyphrase extractionunified approachessimckpcontrastive learning framework
发现论文，激发创造
  • UniKeyphrase: 用于关键词预测的统一提取和生成框架

    本文提出了一种新的端到端学习框架 UniKeyphrase，通过堆叠关系层和词袋约束来充分利用模型结构和训练过程中的潜在语义关系，能够更好地预测关键短语，实验结果表明，这种联合方法在关键短语预测上比主流方法表现更好。

    Jun, 2021

  • 通过探索检索与抽取的能力进行关键短语生成的综合方法

    本文提出了一种新的集成方法，用于关键短语的生成，利用多任务学习的方法同时学习抽取式模型和生成式模型，采用神经网络集成预测结果，实验结果表明基于抽取式、生成式和检索式方法的综合方法更优。

    Apr, 2019

  • 神经关键词生成：分析与评估

    本文研究了三种强大的编码 - 解码模型 (T5、 CatSeq-Transformer 和 ExHiRD) 的性能和行为，分析了预测置信度得分、模型校准和密钥短语生成的令牌位置对其的影响，提出了一个新的度量框架 SoftKeyScore。结果表明，相比于标准的 F1 指标，SoftKeyScore 更适合用于评估两组给定关键词。

    Apr, 2023

  • 使用预训练语言模型进行关键短语预测

    通过将关键短语预测分为现有关键短语提取与不存在关键短语生成两个子任务，并提出使用 BERT 在这两个子任务中实现联合推论的方法，本研究提供了一种全面利用提取和生成方法各自优势的方法，并在基准数据集上实现了最新的预测结果。

    Apr, 2020

  • 深度关键词生成

    本研究提出了一种基于编码 - 解码框架的生成模型来预测文本的关键短语，从而能够有效地捕捉其深层语义含义，并能够识别没有在文本中出现但基于语义意义的内容。

    Apr, 2017

  • 元词生成：按需生成关键词

    传统的关键词预测方法无法满足用户和相关应用的多样需求，本文引入按需关键词生成，提出 MetaKP 基准和监督、非监督方法，通过大型语言模型的自一致性提示方法，在 NLP 基础设施中改进关键词生成性能，并在社交媒体上的疫情事件检测中展示了其潜力。

    Jun, 2024

  • SGG: 关键词短语生成的选择、引导和生成学习

    本文介绍了一种基于 Select-Guide-Generate (SGG) 方法的关键词生成模型，它能够明确区分文档中的现有关键词和非现有关键词。实验结果表明，它在关键词生成任务中的表现优于其他模型，并且能够扩展到标题生成任务。

    May, 2021

  • 基于跨度特征表示的关键短语提取

    该论文提出了一种新颖的 Span Keyphrase Extraction 模型，能够直接从所有内容令牌中提取以跨度为基础的关键短语的特征表示，并进一步学习捕捉单个文档中关键短语之间的交互，以获得更好的排序结果。

    Feb, 2020

  • 神经关键词生成的半监督学习

    本篇论文探讨了如何利用半监督学习方法，在有限的有标签数据下，将无标签数据与有标签数据结合来提高关键短语生成的性能，实现多任务学习，通过无监督关键短语抽取方法或自学习算法得到的合成关键短语为无标签数据进行标注。实验结果表明，利用半监督学习的方法能够明显优于仅训练有标签数据的最先进模型。

    Aug, 2018

  • LDKP: 从长篇科技文档中鉴别关键词短语的数据集

    该研究发布了两份研究文献语料库，包括约 130 万篇和 10 万篇科学论文的完整抽取文本和附加元数据，有助于实现从科学文章中提取关键短语的任务。

    Mar, 2022