结构化跨度选择器
本研究提出基于跨度的语义角色标注模型,能够直接考虑所有可能的论元跨度并为每个标签评分,模型具有允许设计和使用跨度级特征的优点。实验结果显示,本研究的集成模型在 CoNLL-2005 和 2012 数据集上实现了最先进结果,分别为 87.4 F1 和 87.0 F1。
Oct, 2018
本文通过对六种跨度表示方法和八个预训练语言模型在六个任务中的综合实证评估,发现即使有些简单跨度表示在多个任务中相对可靠,但一般来说最优跨度表示方法因任务而异,也可能因不同任务的不同方面而异。同时,我们还发现,与精细调整的编码器相比,跨度表示的选择对于预先训练的编码器具有更大的影响。
Jun, 2020
本文提出一种基于标记跨度和跨度之间关系的统一格式的思想,成功应用于语法、语义、信息内容,情感等多种自然语言处理任务,其结构化的方法能将不同任务转化为相同的格式,同时得到较高的性能表现,并提出多任务学习的优势。最后作者将各数据转换为统一格式来建立一个基准测试,提供了一个综合的测试平台,用于评估未来模型对于通用自然语言处理的表现。
Nov, 2019
介绍了一个通用的框架,用于多个信息提取任务,共享动态构建的跨度图表示,该图由选择最可靠的实体跨度所构成,并使用置信度加权关系类型和共参考建立节点,从而实现共参考和关系类型置信度通过图传播迭代地细化跨度表示,与以前的多任务信息提取框架不同,我们的框架显著优于多个数据集上的多个信息提取任务的最新水平,涵盖了不同的领域。另外,我们观察到跨度枚举方法在检测嵌套跨距实体方面表现出色,在 ACE 数据集上 F1 分数显著提高。
Apr, 2019
本文是关于跨度查找的实证研究,着重探讨了可用于训练端到端信息提取系统的方法,并发现在不考虑任务属性的情况下,没有明确的解决方案。观察发现:1)标记方法通常具有更高的精度,而跨度枚举和边界预测提供更高的召回率;2)跨度类型信息对边界预测方法有益;3)在大多数情况下,额外的上下文信息对跨度查找没有帮助。
Oct, 2022
本文介绍了一种基于 label 和 span 独立评分的最小神经模型,并证明了该模型不仅与经典的动态规划技术兼容,而且还支持一种基于递归分割的新颖贪心自顶向下推理算法。经实验证明,两种预测方案竞争力强,并且与得分模型的基本扩展相结合,能够实现 Penn Treebank 的单模型最优性能(91.79 F1),并在法语 Treebank 上获得强大的性能(82.23 F1)。
May, 2017
本研究提出了一种基于依存句法分析的情感分析模型,并对其进行了改进,包括采用新的标签策略、图注意力网络和自适应多标签分类器来优化其性能,实验结果表明我们的模型在五个基准数据集上的效果大幅优于之前的最优模型。
Mar, 2022
本文提出了一种基于在上下文学习的策略,通过选择少量有代表性的例子来进行标注,进而为新的自然语言任务创建数据集,并证明了此方法在不同场景下都具有良好的效果。
Sep, 2022
本研究提出了 SpanBasedSP,这是一种基于跨度的解析器,用于语义分析,并且能够更好地进行组合概括。SpanBasedSP 在几个数据集上进行测试,表现出与强 seq2seq 基线相当的效果,并且在需要进行组合概括的情况下,与基线相比有显著的性能优势。
Sep, 2020