ACLApr, 2022

检测、消岐、重新排序：自回归实体链接作为多任务问题

PDF
TL;DR提出了一种采用两个辅助任务进行训练，学习在推断时重新排列生成样本的自回归实体链接模型。实验表明，在医学和新闻领域的两个基准数据集上，该模型在不使用知识库或候选集的情况下创造了新的最高成果，并表明辅助任务对提高性能很关键。
autoregressive entity linkingencoder-decoderre-rankingauxiliary taskslow-resource
发现论文，激发创造
  • 具有判别校正的高度并行自回归实体链接

    本文提出了一种高效的生成方法，采用并行自回归流程和浅层解码器实现实体消岐和链接，并增加了区分度组件，达到了比之前的方法更快（ >70 倍）更准确的效果，代码开源。

    Sep, 2021

  • 自回归实体检索

    GENRE 是第一个通过自回归方式逐个 token 生成实体名称以检索实体的系统，此方法可以在自动编码器中直接捕捉上下文和实体名称之间的关系，从而减少内存占用并提高检索效率。

    Oct, 2020

  • 为实体检索学习密集表示

    使用双编码器模型，在相同的密集向量空间中对实体和提及进行编码，并通过近似最近邻搜索检索候选实体，从而实现实体链接。通过使用维基百科中的锚文本链接训练双编码器，该方法优于离散别名表和 BM25 基线，并且与标准 TACKBP-2010 数据集中最佳结果相当，还可以快速检索候选者，并可以很好地推广到从 Wikinews 推导出的新数据集。在建模方面，我们演示了无监督的负采矿算法在这一任务中的重要作用。

    Sep, 2019

  • 深度强化学习的联合实体链接

    本研究提出一种基于强化学习的方法，将实体链接转换为序列决策问题，全局考虑前面提及的实体，并探索当前选择对后续决策的长期影响，实验证明该模型比现有系统表现更好且具有更好的泛化性能。

    Feb, 2019

  • 通过建模提及之间的潜在关系来提高实体链接

    本研究提出了一种新的神经实体链接模型，将实体链接中的关系视为潜在变量，并在优化实体链接系统的同时诱导这些关系，同时取得了 AIDA-CoNLL 基准测试上最好的结果。

    Apr, 2018

  • 多任务学习在开放域对话系统中的实证研究

    研究使用辅助任务对自回归模型进行改进，提高其在开放域对话生成中的长期语境处理和一致性维护，结果在小型和中型的 GPT-2 模型上表明引入新的辅助任务虽然有所改进，但仍有发展空间。

    Apr, 2023

  • 使用双编码器快速有效的生物医学实体链接

    本研究提出了一种基于 BERT 的双编码器模型，可一次处理文档中的多个关键词，解决了现有模型效率低的问题，在生物医学实体链接领域取得了与现有模型相当的准确性，并对其进行了改进，实现了端到端生物医学实体链接，表现出更好的性能.

    Mar, 2021

  • 基于代理的零样本实体链接与有效候选项检索

    本研究中使用基于代理的度量学习损失和对抗性正则化器以提高候选人检索阶段的效率，从而提供了一种有效的替代方法来解决候选人检索的困难问题，并展示了零样本设置下的使用。

    Jan, 2023

  • AKEM: 使用集成模型将知识库与查询对齐的实体识别和链接

    该研究论文提出了一种新方法来解决 NLPCC 2015 中的实体识别和链接挑战问题，通过扩展现有知识库并利用外部知识识别候选实体，提高了召回率，同时利用支持向量回归和多增加回归树作为评分函数来过滤结果，应用规则进一步优化结果并提高精确度，该方法计算效率高，F1 得分为 0.535。

    Sep, 2023

  • 基于稠密实体检索的可扩展零样本实体链接

    本文介绍一种基于 BERT 的实体链接模型，采用两阶段的零样本链接算法，通过双编码器进行实体检索，并进一步用交叉编码器对候选实体进行重排序。经实验证明，这种方法不需要显式实体嵌入或手动工程化的实体表，已超越最近的零样本评估和已建立的非零样本评估（如 TACKBP-2010），并且具有速度快的优点。

    Nov, 2019