May, 2023

基于置信度的部分标签学习模型用于众包标注命名实体识别

PDF
TL;DR使用 CPLL 模型整合多注释者标签和先验、后验置信度，通过 EM 算法学习标记和内容相关的置信度，以解决命名实体识别中多注释者标签一致性问题，并在实际和合成数据集上得到有效提升。
named entity recognitionmulti-annotator labelsconfidence-based partial label learningexpectation-maximization algorithmcrowd-annotated ner
发现论文，激发创造
  • 带有置信度估计的有噪标注命名实体识别

    该研究采用校准置信度估计的方式来研究深度学习在实际场景下的命名实体识别问题，提出了一种基于本地和全局独立性假设的置信得分估计策略，并结合 CRF 模型来隔离低置信度标签，同时提出了一种基于实体标签结构的置信度校准方法，最后将其集成到自我训练框架中进行性能提升，在四种语言和遥远标注场景下的实验证明了该方法的有效性。

    Apr, 2021

  • 使用部分标注的训练数据进行命名实体识别

    研究了使用部分标记数据进行命名实体识别的问题，用迭代算法通过识别假负标签减小其权值，训练带有偏重的 NER 模型，取得 8 种语言的实验结果，并在孟加拉语 NER 语料库中比现有最优算法提高 5 个百分点的 F1 分数。

    Sep, 2019

  • 生物医学实体识别的部分注释学习

    本文探讨了应用部分标注学习方法在缺失生物医学命名实体注释的场景中进行实体识别的有效性，并提出了一个新的 TS-PubMedBERT-Partial-CRF 模型来提高实体识别性能。实验结果表明，该模型在高缺失实体比例下的 F1-score 比使用全标注学习模型 PubMedBERT Tagger 高 38％，同时其实体识别的召回率也达到了与全标注学习数据集上的上界相竞争的水平。

    May, 2023

  • 基于对抗学习的中文命名实体识别方法研究（来自众包标注数据）

    本文提出了一种采用敌对学习机制的方法，在使用众包进行中文命名实体识别的过程中，利用众包工人生成的嘈杂序列标签信息。通过使用公共 Bi-LSTM 和私人 Bi-LSTM 分别表示众包注释的共同特征和个性特征，我们已经构建了基于 LSTM-CRF 模型的中文命名实体标记器，并在两个领域创建数据集进行实验，实验结果表明，我们的系统性能优于强基线系统。

    Jan, 2018

  • 众包标签深度学习：交叉熵最小化、可识别性和正则化

    本文提出了一种基于深度学习的端到端系统，利用嘈杂的众包标签，通过多个注释器特定的 label confusion 层和参数耦合的方式，与神经分类器同时学习标签纠正机制，并提出了 CCEM 的正则化变种，以增强目标模型参数的可识别性。

    Jun, 2023

  • 通过有效的注释和表示投影进行弱监督的跨语言命名实体识别

    本文提出两种弱监督的跨语言实体标识方法，分别基于注释投影和词嵌入，无需使用目标语言的人工注释数据。同时，我们设计了两种协同解码方案，将两个基于投影的方法的输出相结合，评估表明这种组合性的方法优于其他三种弱监督方法。

    Jul, 2017

  • 命名实体识别的分类扩展

    本研究提出了一种称为 “部分标签模型（Partial Label Model）” 的新方法，该方法可以使用部分有标注的数据集来训练 NER 模型，以更节省成本地扩展分类法，实验表明，该方法在新分类法设置下的表现显著优于其他方法，并在额外实体类型数据有限的情况下表现出更加节省成本。

    May, 2023

  • E-NER: 基于证据的深度学习在可信命名实体识别中的应用

    介绍了 Evidential deep learning 在 named entity recognition (NER) 中实现 predictive uncertainty 的困难之处，并提出了一种可信 named entity recognition (E-NER) 框架，引入了两个基于不确定性的错误函数以及一系列基于不确定性的训练策略。实验证明 E-NER 能够应用于多种 NER 模式，并获得准确的不确定性估计。与最先进的基线相比，所提出的方法在 OOV/OOD 检测性能和 OOV 实体的泛化能力方面均有所提高。

    May, 2023

  • 少样本命名实体识别：综合研究

    本文提出了一种有效地建立识别命名实体（NER）系统的方法，基于最近的基于转换器的自我监督预训练语言模型（PLMs），并探讨了三种正交的方案来改进针对少样例情况的模型泛化能力，通过大量实验结果表明，我们的方法在少数样例学习环境中显著改善或优于基于域标记微调的 PLM 线性分类器等基线方法，同时在无训练和少样例学习环境下建立了最新的业界记录。

    Dec, 2020

  • 利用 LLM 增加 NER 数据集：走向自动化和精确注释

    在自然语言处理（NLP）领域，命名实体识别（NER）被认为是一项关键技术，广泛应用于各种应用。本研究引入了一种新颖的混合标注方法，将人力与大型语言模型（LLMs）的能力相结合，旨在提高 NER 模型的性能，并以经济的方式解决传统标注方法存在的噪音和类别不平衡问题。通过多个数据集的分析，该方法在受限预算条件下始终显示出比传统标注方法更优越的性能，揭示了利用 LLMs 提高数据集质量的潜力，引入了一种减轻类别不平衡问题的新技术，并证明了以经济方式实现高性能 NER 的可行性。

    Mar, 2024