EMNLPAug, 2017

利用语言学特征提高神经共指解析器的泛化能力

PDF
TL;DR本研究探讨在核指消解中使用语言特征以提高泛化性能，结果表明，仅增加一组附加的语言特征只略微提高泛化性能，而使用信息量高的特征子集，可以显著提高泛化性能，从而使得我们的系统在 WikiCoref 数据集上获得了与该数据集特定模型相当的表现，实现了最先进的结果。
coreference resolutiongeneralizationlinguistic featuresout-of-domain evaluationsstate-of-the-art results
发现论文，激发创造
  • 指代消解中的词汇特征：谨慎使用

    本文研究了在先进的共指消解器中使用大量词汇特征的一个缺点，即如果核心语义分辨器主要依靠词汇特征，它们几乎无法推广到未见过的领域。此外，我们还展示了当前的共指消解评估存在明显缺陷，因为只针对一个特定数据集中的特定拆分进行评估，在训练、开发和测试集之间存在显着重叠。

    Apr, 2017

  • 学习核链消解的全局特征

    使用循环神经网络直接学习实体群集的全局表示，尤其对于代词提及的预测特别有用，可以整合到端到端的指代系统中，不需要任何其他搜索，表现优于现有技术。

    Apr, 2016

  • 使用广义表示，但不要忽略表面特征

    本研究展示了使用表面特征的简单 SVM 模型在检测指代名词方面胜过复杂神经模型，而使用广义表示和表面特征则能够相互补充，提高共指消解的性能。

    Feb, 2017

  • 探究共指消解模型无法推广的原因

    该研究探讨了当前代表性的共指消解模型中的误差与不同数据集、核心共指类型的操作方式有关的程度，并对现有模型在各种共指类型下的表现进行了分类，结果表明在不同共指类型下的表现存在差异，这可以为未来的核心共指解析模型开发提供参考。

    Mar, 2023

  • 通过对抗训练提高共指消解的泛化能力

    本文研究了指代消解系统的泛化能力问题，并采用对抗梯度训练技术重新训练最先进的系统，验证了训练后的系统在 CoNLL 数据集和 GAP 数据集上能更好地处理命名实体变化的情况。

    Aug, 2019

  • 俄语轻量级核指代消解：基于分层语篇特征的方法

    本研究提出了一种新方法，通过引入修辞信息到神经共指消解模型中，来明确捕获层次化语篇中的指代选择， 并使用多语言实体感知语言模型 LUKE，在 RuCoCo-23 共指消解任务上评估了该方法的性能。实验表明，使用修辞距离的最佳模型在开发集 (74.6 % F1) 上排名第一，在测试集 (73.3 % F1) 上排名第二。希望我们的研究能够激发对于神经共指消解模型中引入语篇信息的进一步研究。

    Jun, 2023

  • 利用多任务学习将单例和基于提及的特征纳入共指消解，以提高泛化性能

    这篇论文提出了一种通过多任务学习方法学习单例以及实体类型和信息状态等特征的共指模型，在 OntoGUM 基准上取得了新的最高分（+2.7 分），并在多个领域的数据集上提高了鲁棒性（平均 + 2.3 分），可能是由于更大的指称检测的泛化能力和更多单例数据的利用所致。

    Sep, 2023

  • 论指代消解中的泛化

    本研究提出了一种混合训练的方法，旨在解决针对不同领域的 8 个共指消解数据集在模型的零 - shot 迁移表现上存在的问题，并构建了一个新的数据集，取得了多个最先进的结果。

    Sep, 2021

  • 大型语言模型是否具有鲁棒的零 - shot 指代消解能力？

    该论文探讨了使用预训练大型语言模型进行无监督共指消解的可行性，实验证明零样本提示优于当前的无监督共指系统，并展示了指令调整语言模型在领域适应、跨语言和跨时期方面的强大零样本泛化能力，以及高质量提及检测系统的重要性。

    May, 2023

  • 评估和改进机器翻译模型的指代消解能力

    本文评估了机器翻译 (MT) 模型从隐含信号中学习共指消解的能力，并探究了如何将共指消解模型的输出整合到 MT 模型中以提高翻译质量。研究结果表明，单语共指消解模型的性能远远优于 MT 模型。

    Feb, 2023