EMNLPSep, 2021

具有噪声鲁棒性和语言模型增强的远程监督命名实体识别

PDF
TL;DR本文研究如何通过使用自动化匹配原始文本中实体提及与知识库中实体类型来获得的远距离标注数据来训练命名实体识别（NER）模型，提出了一种噪声鲁棒的学习方案和自训练方法，通过预训练语言模型创建的上下文增量来改善 NER 模型的泛化能力，在三个基准数据集上，我们的方法均获得了优越的性能，显著优于现有的远程监督 NER 模型。
named entity recognitiondistant supervisionnoise-robust learningself-trainingpre-trained language models
发现论文，激发创造
  • 使用领域专用字典学习命名实体标注器

    本文研究使用深度神经模型实现对命名实体的识别，提出了两种神经模型，分别是模糊 CRF 层和 AutoNER 模型，并探讨了如何优化糟糕的监督数据来源以提高 NER 的准确率。实验结果表明，仅使用词典而无需人工操作的 AutoNER 表现最佳，并与最先进的监督基准具有竞争力。

    Sep, 2018

  • 自协同去噪学习提升远程监督命名实体识别

    本文提出一种名为 “自我协同去噪学习” 的鲁棒学习模式，利用两个教师 - 学生网络相互学习进行标签去噪，以应对远程监督命名实体识别中的标签噪声问题。该方法在五个真实世界数据集上的实验结果表明其优于当前 DS-NER 去噪方法。

    Oct, 2021

  • 重新审视远程监督的命名实体识别：一个新的基准和一种简单方法

    该研究论文探讨了在遥感监督（DS-NER）框架下的命名实体识别（NER），其中主要挑战在于由于伪阳性、伪阴性和正类型错误等固有错误导致标签质量受损。我们批判性评估了当前 DS-NER 方法的效力，使用了一个名为 QTL 的真实基准数据集，揭示其性能常常达不到预期。为了解决标签噪声的普遍问题，我们引入了一种简单而有效的方法，基于课程的正负无标记学习（CuPUL），该方法在训练过程中通过从 “简单” 且更干净的样本开始，增强模型对噪声样本的鲁棒性。我们的实证结果突出了 CuPUL 减少噪声标签影响、超越现有方法的能力。

    Feb, 2024

  • 噪声鲁棒学习的远程监督联合实体和关系抽取

    用一个模型识别实体对及其关系的联合实体和关系抽取任务中，存在嘈杂标签的问题。为了填补这个空白，我们引入了一种新的噪音鲁棒方法，可以同时进行实体和关系检测，并使用一个新的损失函数惩罚与显著关系模式和实体关系依赖性不一致的情况，以及一个自适应学习步骤迭代地选择和训练高质量实例。在两个数据集上的实验证明，我们的方法在联合抽取性能和噪音减少效果方面优于现有的最新方法。

    Oct, 2023

  • DistALANER：在开源软件生态系统中增强的基于远程监督的主动学习命名实体识别

    本文提出了一种新的命名实体识别（NER）技术，专门针对开源软件系统。我们的方法通过使用全面的两步远程监督注释过程来解决注释软件数据的稀缺性问题。该方法战略性地利用语言启发式方法、唯一的查找表、外部知识源和主动学习方法。通过利用这些强大的技术，我们不仅提高了模型的性能，还有效地克服了成本和专家注释者的稀缺性方面的局限性。值得注意的是，我们的框架在很大程度上超越了现有技术的领先水平。我们还展示了 NER 在下游关系抽取任务中的有效性。

    Feb, 2024

  • 基于不确定性感知的远程监督命名实体识别中的教师学习和学生协同学习

    提出了一种减轻标签噪声的 Distantly-Supervised Named Entity Recognition 方法，其中包括 Uncertainty-aware Teacher Learning 和 Student-student Collaborative Learning 两种技术。实验结果表明，该方法在五个 DS-NER 数据集上优于其他的 teacher-student 方法。

    Nov, 2023

  • 基于自动噪声检测的实体链接远程学习

    本文介绍了一种在没有标记数据的情况下，通过多实例学习和噪声检测的方法，学习从知识库中链接提及的实体，特别是对于科学领域等标记信息有限的领域。

    May, 2019

  • 带有置信度估计的有噪标注命名实体识别

    该研究采用校准置信度估计的方式来研究深度学习在实际场景下的命名实体识别问题，提出了一种基于本地和全局独立性假设的置信得分估计策略，并结合 CRF 模型来隔离低置信度标签，同时提出了一种基于实体标签结构的置信度校准方法，最后将其集成到自我训练框架中进行性能提升，在四种语言和遥远标注场景下的实验证明了该方法的有效性。

    Apr, 2021

  • 低资源命名实体识别的远程监督和噪声标签学习：哈萨语和约鲁巴语研究

    研究对在开发中国家使用的 Hausa 和 Yoruba 两种语言开展命名实体识别，发现能够成功利用远程监督提高分类器的性能，并比较不同的嵌入方法。

    Mar, 2020

  • 使用部分标注的训练数据进行命名实体识别

    研究了使用部分标记数据进行命名实体识别的问题，用迭代算法通过识别假负标签减小其权值，训练带有偏重的 NER 模型，取得 8 种语言的实验结果，并在孟加拉语 NER 语料库中比现有最优算法提高 5 个百分点的 F1 分数。

    Sep, 2019