EMNLPOct, 2023

无困扰遗忘的连续命名实体识别

PDF
TL;DR在连续命名实体识别（CNER）领域中，我们引入了一种精确平衡旧实体与新实体之间知识保留的池化特征蒸馏损失方法，以更有效地缓解灾难性遗忘问题，并利用基于置信度的伪标记方法解决非实体类型的语义转移问题。在此基础上，我们还提出了一种自适应重新加权类型平衡学习策略来处理类型分布不均衡问题。通过对十个 CNER 设置及三个不同数据集进行全面实验，结果显示我们的方法在 Micro F1 和 Macro F1 得分上相较于当前最先进的方法平均提高了 6.3% 和 8.0%。
发现论文，激发创造
  • 从其他杂类中提取因果关系，以用于连续命名实体识别

    本研究提出了一种统一的因果框架来从新实体类型和其他类别中检索因果关系，应用课程学习和自适应权重来缓解标签噪声对因果效应的影响，实验结果表明我们的方法在三个基准数据集上优于现有的最先进方法。同时，我们的方法可以与现有的最先进方法相结合，以提高 CL-NER 的性能。

    Oct, 2022

  • 针对命名实体识别中无标签实体问题的噪声鲁棒性损失函数

    本文提出了一种新的名词实体识别（Named Entity Recognition，NER）的方法 NRCES，通过使用 sigmoid 函数减轻噪声的负面影响并平衡模型的收敛速度和噪声容忍度，成功地解决了大规模无标注数据集的识别问题，并在合成和现实数据集上表现出了鲁棒性。

    Aug, 2022

  • 动态命名实体识别

    本研究介绍了一项新任务：Dynamic Named Entity Recognition（DNER），提供了一个框架，以更好地利用上下文来评估算法提取实体的能力。DNER 基于两个数据集，DNER-RotoWire 和 DNER-IMDb，我们评估了基线模型并提出了与此新任务相关的问题和研究方向的实验。

    Feb, 2023

  • 作为最大团探测的间断命名实体识别

    本文提出了一种基于 Mac 模型的分段图算法，用于解决实体识别中异构实体的问题。该算法可将异构实体视作图中的节点，通过识别图中的最大团并连接团内的连续实体段，实现对异构实体的非参数化处理，在三个基准数据集上的结果证明该方法领先于目前的最优算法，并且速度提高了 5 倍。

    Jun, 2021

  • 基于神经网络跨度的连续命名实体识别模型

    本论文提出了一种名为 SpanKL1 的简单而有效的基于 Span 的模型，采用知识蒸馏和多标签预测技术，旨在解决命名实体识别领域中实体类型不断增加的问题，并在 OntoNotes 和 Few-NERD 等数据集上进行实验，结果表明 SpanKL 显著优于先前的方法，并显示出高实用价值。

    Feb, 2023

  • CNN-LSTM-CRF 和词语分割联合训练实现的神经网络中文命名实体识别

    本文提出了一种神经方法来解决中文命名实体识别的挑战，该方法包括使用 CNN-LSTM-CRF 神经架构来捕捉 CNER 的本地和长距离上下文，引入统一框架来联合训练 CNER 和分词模型以增强 CNER 模型在识别实体边界方面的能力，以及使用自动方法从现有标记数据生成伪标记样本来扩充训练数据。实验结果表明，该方法特别适用于训练数据不足的情况下，可以有效提高中文命名实体识别的性能。

    Apr, 2019

  • NERDA-Con: 用于不间断学习的 NER 模型扩展 —— 集成不同任务和更新分布偏移

    该研究提出了 NERDA-Con，一种基于 Elastic Weight Consolidation 思想的 NERLLM 精调 fine-tuning pipeline。该方法可以在不重置 Large Language Models 的情况下对新数据进行处理，对于信息提取等领域的 Named Entity Recognition 有重要的应用价值。

    Jun, 2022

  • 跨语言命名实体识别的增强迭代知识蒸馏

    本文描述了微软在交叉语种命名实体识别中的新实践方法，使用源语种的标注数据和目标语种的无标注数据，采用半监督学习和强化学习的方法来提取弱监督信号并实现了新的最先进性能优于现有的模型。

    Jun, 2021

  • 重新审视远程监督的命名实体识别：一个新的基准和一种简单方法

    该研究论文探讨了在遥感监督（DS-NER）框架下的命名实体识别（NER），其中主要挑战在于由于伪阳性、伪阴性和正类型错误等固有错误导致标签质量受损。我们批判性评估了当前 DS-NER 方法的效力，使用了一个名为 QTL 的真实基准数据集，揭示其性能常常达不到预期。为了解决标签噪声的普遍问题，我们引入了一种简单而有效的方法，基于课程的正负无标记学习（CuPUL），该方法在训练过程中通过从 “简单” 且更干净的样本开始，增强模型对噪声样本的鲁棒性。我们的实证结果突出了 CuPUL 减少噪声标签影响、超越现有方法的能力。

    Feb, 2024

  • 高度不平衡数据下适应性命名实体识别

    本报告提出了一种基于条件随机场层和双向 LSTM 层的神经网络体系结构，其中嵌入向量（Glove，BERT）的融合输入被用来增强模型的泛化能力，还引入了一个分类模型来分离句子并对弱类和强类进行优化以提高 Named Entity Recognition 任务的性能。经实验证明，该方法显著提高了弱类的表现结果，并且只使用了非常少量的数据集。

    Mar, 2020