E-NER: 基于证据的深度学习在可信命名实体识别中的应用

ACLMay, 2023

E-NER: 基于证据的深度学习在可信命名实体识别中的应用

E-NER: Evidential Deep Learning for Trustworthy Named Entity Recognition

Zhen Zhang, Mengting Hu, Shiwan Zhao, Minlie Huang, Haotian Wang...

TL;DR介绍了 Evidential deep learning 在 named entity recognition (NER) 中实现 predictive uncertainty 的困难之处，并提出了一种可信 named entity recognition (E-NER) 框架，引入了两个基于不确定性的错误函数以及一系列基于不确定性的训练策略。实验证明 E-NER 能够应用于多种 NER 模式，并获得准确的不确定性估计。与最先进的基线相比，所提出的方法在 OOV/OOD 检测性能和 OOV 实体的泛化能力方面均有所提高。

Abstract

Most named entity recognition (NER) systems focus on improving model performance, ignoring the need to quantify model uncertainty, which is critical to the reliability of NER systems in open environments. Evidential deep learning (EDL) has recently been proposed as a promising solution

named entity recognition predictive uncertainty evidential deep learning oov/ood entities uncertainty-guided training

发现论文，激发创造

命名实体识别的深度学习调查

本文基于三个维度的分类法，系统地回顾了深度学习在命名实体识别上的应用技术，并介绍了面临的挑战和未来的研究方向。

Dec, 2018

深度学习模型中命名实体识别的最近进展综述

本文综述了深度神经网络在命名实体识别方面的应用，相对于传统的基于特征工程和监督或半监督学习算法的实体识别方法，神经网络在该领域中取得了更好的效果，并表明吸收过去的基于特征的 NER 系统的一些经验教训可以进一步提高性能。

Oct, 2019

基于不确定性的文本可靠分类

本文针对文本分类任务中的 OOD 检测问题，提出了基于证据不确定性的方法，该方法通过引入辅助的离群样本和伪样本来训练模型，并明确建模了类别概率的不确定性。实验证明，该方法能够轻松部署于传统 RNN 和 Fine-tuned 预训练 transformers，并在 OOD 检测上优于其他方法。

Jul, 2021

DistALANER：在开源软件生态系统中增强的基于远程监督的主动学习命名实体识别

本文提出了一种新的命名实体识别（NER）技术，专门针对开源软件系统。我们的方法通过使用全面的两步远程监督注释过程来解决注释软件数据的稀缺性问题。该方法战略性地利用语言启发式方法、唯一的查找表、外部知识源和主动学习方法。通过利用这些强大的技术，我们不仅提高了模型的性能，还有效地克服了成本和专家注释者的稀缺性方面的局限性。值得注意的是，我们的框架在很大程度上超越了现有技术的领先水平。我们还展示了 NER 在下游关系抽取任务中的有效性。

Feb, 2024

电子商务搜索中命名实体识别的端到端解决方案

本文介绍了在电子商务领域中运用 TripleLearn 模型训练框架，通过三个数据集迭代学习的方法解决了领域知识、训练数据和模型生产等方面的挑战，将识别品牌和产品类型等关键实体的 F1 得分从 69.5 提高到 93.3，并在 A/B 测试中显著提高了用户参与度和收入转化率，TripleLearn 框架可推广至更多工业应用领域，特别是类似数据基础和问题的电子商务行业。

Dec, 2020

跨语言命名实体识别的增强迭代知识蒸馏

本文描述了微软在交叉语种命名实体识别中的新实践方法，使用源语种的标注数据和目标语种的无标注数据，采用半监督学习和强化学习的方法来提取弱监督信号并实现了新的最先进性能优于现有的模型。

Jun, 2021

带有置信度估计的有噪标注命名实体识别

该研究采用校准置信度估计的方式来研究深度学习在实际场景下的命名实体识别问题，提出了一种基于本地和全局独立性假设的置信得分估计策略，并结合 CRF 模型来隔离低置信度标签，同时提出了一种基于实体标签结构的置信度校准方法，最后将其集成到自我训练框架中进行性能提升，在四种语言和遥远标注场景下的实验证明了该方法的有效性。

Apr, 2021

语言模型的混合专家用于命名实体识别

提出了一种基于 Mixture of Experts (MoE) 的强大的命名实体识别（NER）模型 BOND-MoE，通过使用多个模型在 EM 框架下进行集成，可以显著减轻噪声监督带来的问题，并引入公平分配模块来平衡文档 - 模型分配过程，实验证明该方法在真实数据集上取得了与其他远程监督 NER 方法相比的最先进性能。

Apr, 2024

证据深度学习中的不确定性知识

本文揭示了 Evidential Deep Learning（EDL）中由不确定性值产生的证据信号的存在，并通过理论和实证研究证明了 EDL 的不确定性与误分类偏差之间的关联，从而揭示出 EDL 对 loss functions 的耦合情况。

Oct, 2023

命名实体识别的综合概述：模型、特定领域应用和挑战

自然语言处理（NLP）领域中，命名实体识别（NER）作为从非结构化文本中提取结构化洞见的关键机制，在本文中得到全面探索，融合了基础原理和当代人工智能的进展。该研究从 NER 的基本概念开始，涵盖了从传统的基于规则的策略到当代的转换器架构的一系列技术，特别是突出了 BERT 与 LSTM 和 CNN 等集成算法。该论文强调了针对金融、法律和医疗等复杂领域定制的领域特定 NER 模型，并强调了它们的专业适应性。此外，研究还涉及强化学习、创新构建（如 E-NER）以及光学字符识别（OCR）在增强 NER 能力方面的相互作用。论文以实际领域为基础，阐明了 NER 在金融和生物医学等领域中不可或缺的作用，并解决了它们所面临的独特挑战。结论部分概述了开放性挑战和路径，将这项工作标记为进入 NER 研究和应用的全面指南。

Sep, 2023