EMNLPOct, 2022

寻找跨度的实证研究

PDF
TL;DR本文是关于跨度查找的实证研究，着重探讨了可用于训练端到端信息提取系统的方法，并发现在不考虑任务属性的情况下，没有明确的解决方案。观察发现：1）标记方法通常具有更高的精度，而跨度枚举和边界预测提供更高的召回率；2）跨度类型信息对边界预测方法有益；3）在大多数情况下，额外的上下文信息对跨度查找没有帮助。
span findinginformation extraction systemsboundary predictiontagging approachcontextualization
发现论文，激发创造
  • 文本跨任务跨度表示的分析

    本文通过对六种跨度表示方法和八个预训练语言模型在六个任务中的综合实证评估，发现即使有些简单跨度表示在多个任务中相对可靠，但一般来说最优跨度表示方法因任务而异，也可能因不同任务的不同方面而异。同时，我们还发现，与精细调整的编码器相比，跨度表示的选择对于预先训练的编码器具有更大的影响。

    Jun, 2020

  • 结构化跨度选择器

    本研究提出了一种基于语法的结构化跨度选择模型，旨在改进自然语言处理中的跨度选择问题，经测试该模型在两种跨度预测任务中均有显著提升。

    May, 2022

  • 基于跨度的信息抽取 -- 关于信息抽取的统一视角

    信息抽取是自然语言处理（NLP）中的一系列任务，用于识别文本中的子序列及其标签，并链接自由文本和结构化数据。本文提出了一种以文本片段为中心的统一视角，将多样的信息抽取任务重新定位为同一基本的以文本片段为导向的信息抽取任务。

    Mar, 2024

  • 基于跨度关系表示的自然语言分析泛化

    本文提出一种基于标记跨度和跨度之间关系的统一格式的思想，成功应用于语法、语义、信息内容，情感等多种自然语言处理任务，其结构化的方法能将不同任务转化为相同的格式，同时得到较高的性能表现，并提出多任务学习的优势。最后作者将各数据转换为统一格式来建立一个基准测试，提供了一个综合的测试平台，用于评估未来模型对于通用自然语言处理的表现。

    Nov, 2019

  • 联合学习跨度抽取与序列标注，用于商务文档信息提取

    本文介绍了一种新的信息抽取模型，能够同时处理长文档和稀疏信息，通过跨度抽取和序列标注两种方法的结合来进行训练和优化，实验结果表明该模型在英语和日语的四个商业数据集上取得了良好的结果，速度也比标准跨度抽取方法更快。

    May, 2022

  • 使用性能预测解构跨度识别任务

    该论文分析了诸如分块、NER 或代码切换检测等的跨度识别任务，并通过性能预测估计神经体系结构在不同任务上的表现。作者发现跨度识别中跨度频率对于 LSTM 非常重要，CRF 在跨度不频繁和边界不鲜明时有所帮助。

    Oct, 2020

  • 利用基于 BERT 的标记分类和跨度预测技术进行有毒跨度检测的 SemEval-2021 任务 5 的 NLRG

    该研究探讨了基于 BERT 的模型在 SemEval-2021 毒性跨度检测任务中的性能，研究了多种模型，包括 Token 分类或跨度预测，最佳模型达到 F1 得分 0.6753，在基线模型上提高了 3%。

    Feb, 2021

  • 解释文本片段之间的交互

    通过 SpanEx 数据集和社区检测方法，研究了自然语言理解中的跨度推理，包括事实核查和机器阅读理解，并与人类推理过程进行了比较。

    Oct, 2023

  • 基于动态跨度图的信息抽取通用框架

    介绍了一个通用的框架，用于多个信息提取任务，共享动态构建的跨度图表示，该图由选择最可靠的实体跨度所构成，并使用置信度加权关系类型和共参考建立节点，从而实现共参考和关系类型置信度通过图传播迭代地细化跨度表示，与以前的多任务信息提取框架不同，我们的框架显著优于多个数据集上的多个信息提取任务的最新水平，涵盖了不同的领域。另外，我们观察到跨度枚举方法在检测嵌套跨距实体方面表现出色，在 ACE 数据集上 F1 分数显著提高。

    Apr, 2019

  • 加强语言表示以利用标签知识进行提取

    本研究提出了一种新的模型来加强文本表达，进而实现信息提取中的 span extraction 任务，并在三个任务，flat NER、nested NER、event detection 中达到了最佳表现，显著减少了训练和推理时间。

    Nov, 2021