ACLMay, 2020

在 StackOverflow 中进行代码和命名实体识别

PDF
TL;DR本文介绍了一个计算机编程领域的新命名实体识别（NER）语料库，包括 15,372 个句子和 20 种细粒度实体类型。我们使用基于 BERToverflow 的训练数据对 BERT 模型进行了改进，并提出了 SoftNER 模型，通过上下文无关代码标记分类器和语料库级特征，可在 StackOverflow 数据集上实现代码和命名实体识别。
natural language processingcomputer programmingnamed entity recognitioncorpusbert model
发现论文，激发创造
  • 基于 StackOverflow 的小样本命名实体识别

    提出了 RoBERTa+MAML 方法，用于解决 StackOverflow 上的注释挑战，通过元学习来进行少样本命名实体识别，并在 StackOverflow 命名实体语料库上取得了 5% 的 F1 分数改进。通过增强领域特定短语处理来进一步提高结果。

    Apr, 2024

  • 大规模生物医学命名实体识别

    通过在 Apache Spark 之上重新实现 Bi-LSTM-CNN-Char 深度学习架构，我们提出了一个单可训练的命名实体识别（NER）模型，该模型在七个公共生物医学基准测试中获得了新的最优结果，而不使用像 BERT 这样的重​​型上下文嵌入。该模型在生产级别代码库中作为开源 Spark NLP 库的一部分免费提供，并且可以扩展以支持其他人类语言，而不需要更改代码。

    Nov, 2020

  • NERetrieve: 下一代命名实体识别与检索数据集

    通过大规模语言模型，命名实体识别可以达到更精细化的实体类型识别、零样本识别和语句检索等目标，但这些目标仍然需要进一步研究和探索。

    Oct, 2023

  • 高度不平衡数据下适应性命名实体识别

    本报告提出了一种基于条件随机场层和双向 LSTM 层的神经网络体系结构，其中嵌入向量（Glove，BERT）的融合输入被用来增强模型的泛化能力，还引入了一个分类模型来分离句子并对弱类和强类进行优化以提高 Named Entity Recognition 任务的性能。经实验证明，该方法显著提高了弱类的表现结果，并且只使用了非常少量的数据集。

    Mar, 2020

  • GlobalNER：将非局部信息结合到命名实体识别中

    本研究使用基于深度神经网络的查询生成方法和基于 BERTScore 的提及感知的重新排序体系结构，以进一步提高命名实体识别的性能。最后，在 WNUT17 数据集上实现了 61.56 的微 F1 得分。

    Mar, 2023

  • 噪音鲁棒学习的软件实体识别

    通过利用维基百科分类法，建立一个拥有 79K 个软件实体和 12 种详细类型的全面实体词典以及一个包含 1.7M 个句子的大型标注数据集，我们提出了自我正则化的软件实体识别（SER）模型训练方法，能够克服语料库中噪音和训练数据不足的问题，并在维基百科和两个 Stack Overflow 基准测试中展现了优于基准模型和现有方法的性能。我们公开了我们的模型、数据和代码，以供未来研究使用。

    Aug, 2023

  • 命名实体识别的综合概述：模型、特定领域应用和挑战

    自然语言处理（NLP）领域中，命名实体识别（NER）作为从非结构化文本中提取结构化洞见的关键机制，在本文中得到全面探索，融合了基础原理和当代人工智能的进展。该研究从 NER 的基本概念开始，涵盖了从传统的基于规则的策略到当代的转换器架构的一系列技术，特别是突出了 BERT 与 LSTM 和 CNN 等集成算法。该论文强调了针对金融、法律和医疗等复杂领域定制的领域特定 NER 模型，并强调了它们的专业适应性。此外，研究还涉及强化学习、创新构建（如 E-NER）以及光学字符识别（OCR）在增强 NER 能力方面的相互作用。论文以实际领域为基础，阐明了 NER 在金融和生物医学等领域中不可或缺的作用，并解决了它们所面临的独特挑战。结论部分概述了开放性挑战和路径，将这项工作标记为进入 NER 研究和应用的全面指南。

    Sep, 2023

  • 一种令人尴尬的但对嵌套命名实体识别非常强的基准方法

    本文提出使用卷积神经网络来建模得分矩阵中的空间关系以解决嵌套的命名实体识别问题，实验证明相较于最近提出的同类方法，本文提出的方法更为优秀，并且发现不同的论文使用不同的句子标记化会对结果产生影响，因此提供一种易于使用的预处理脚本以便于日后比较。

    Aug, 2022

  • E-NER -- 一份法律文本的命名实体识别注释语料库

    本研究主要介绍了一个公共的法律命名实体识别数据集 E-NER，它表明将通用英语文本数据集训练的命名实体识别模型应用于法律文本会导致重大的性能下降，与在 E-NER 数据集上训练和测试相比，F1 分数下降了 29.4％至 60.4％。

    Dec, 2022

  • IXA/Cogcomp 参加 SemEval-2023 第 2 项任务：基于知识库的上下文增强的多语言命名实体识别

    本文介绍了一种新的命名实体识别级联方法，它由三个步骤组成：首先在输入句子中识别候选实体，然后将每个候选实体链接到现有的知识库中，最后预测每个实体候选的细粒度类别。实验证明，外部知识库在准确分类细粒度和新兴实体方面具有重要意义，并且我们的系统在 MultiCoNER2 共享任务中表现出强大的性能，即使在使用高资源语言的知识库情况下，也能在低资源语言环境中获得良好的表现。

    Apr, 2023