Mar, 2023

德国 BERT 法律命名实体识别模型

PDF
TL;DR本研究 fine-tune 了一个受欢迎的德语 BERT 语言模型，用于 Legal Entity Recognition（LER）数据集，结果表明我们的模型在 LER 任务上表现比 BiLSTM-CRF+ 模型更优，并通过 HuggingFace 对外公开。
bertnamed entity recognitionlegal techgerman language modellegal entity recognition
发现论文，激发创造
  • 使用 BERT 实现通用语言命名实体识别

    本文研究了一种基于多语言 BERT 的单一命名实体识别模型，使用多任务学习和分块更新规则等正则化策略优化模型，并证明在多种语言数据集上表现优于专注于单一语言模型，并能够进行零样本预测。

    Nov, 2019

  • GERNERMED++：德语医学 NLP 中的迁移学习

    本文提出了一个用于德语医学自然语言处理的统计模型，通过迁移学习，预训练的深度语言模型，词对齐和神经机器翻译的多技术组合，有效地在实体识别性能上取得了强大的结果。该模型可作为基线模型，为德国医疗场景的 NLP 研究社区提供帮助。

    Jun, 2022

  • hmBERT: 历史多语言语言模型用于命名实体识别

    本篇研究讨论了针对历史文本进行命名实体识别的挑战，并提出使用大型历史语言模型 hmBERT 预训练来解决标注数据不充足的问题，并使用 HIPE-2022 共享任务来评估模型性能。

    May, 2022

  • E-NER -- 一份法律文本的命名实体识别注释语料库

    本研究主要介绍了一个公共的法律命名实体识别数据集 E-NER，它表明将通用英语文本数据集训练的命名实体识别模型应用于法律文本会导致重大的性能下降，与在 E-NER 数据集上训练和测试相比，F1 分数下降了 29.4％至 60.4％。

    Dec, 2022

  • 命名实体识别的综合概述：模型、特定领域应用和挑战

    自然语言处理（NLP）领域中，命名实体识别（NER）作为从非结构化文本中提取结构化洞见的关键机制，在本文中得到全面探索，融合了基础原理和当代人工智能的进展。该研究从 NER 的基本概念开始，涵盖了从传统的基于规则的策略到当代的转换器架构的一系列技术，特别是突出了 BERT 与 LSTM 和 CNN 等集成算法。该论文强调了针对金融、法律和医疗等复杂领域定制的领域特定 NER 模型，并强调了它们的专业适应性。此外，研究还涉及强化学习、创新构建（如 E-NER）以及光学字符识别（OCR）在增强 NER 能力方面的相互作用。论文以实际领域为基础，阐明了 NER 在金融和生物医学等领域中不可或缺的作用，并解决了它们所面临的独特挑战。结论部分概述了开放性挑战和路径，将这项工作标记为进入 NER 研究和应用的全面指南。

    Sep, 2023

  • 科学命名实体识别的分层 Transformer 模型

    使用 BERT 和 transformer 层的简单和有效的 Named Entity Recognition 方法在计算机科学和生物医学领域的三个基准数据集上优于当前最先进技术，无需外部资源或特定数据增强。

    Mar, 2022

  • 面向历史德语的鲁棒命名实体识别

    应用预训练的基于字符的语言模型，成功提升了历史德语低资源命名实体识别准确性，并相较于经典 CRF-based 方法和 Bi-LSTMs，提高了高达 6% 的 F1 得分表现。

    Jun, 2019

  • 运用辅助语言和迁移学习技术提高低资源实体命名识别

    论文探究了如何在低资源语言如印地语和马拉地语中通过适应 BERT 模型，训练监督学习的 NER 模型，并比较了多语言模型与单语言模型的性能，研究结果表明多语言模型可以提高 NER 的精度。

    Jun, 2023

  • GPT-NER：基于大型语言模型的命名实体识别

    本文介绍了一种基于 GPT 模型的 NER 算法 ——GPT-NER，它通过将序列标注任务转化为生成任务来弥补 LLMs 在 NER 任务上的缺陷，并提出自我验证策略以解决 LLMs 易出现的幻觉问题。实验结果表明，该算法表现与有监督算法相当，在低资源学习中表现显着优于有监督模型，具有实现限制样本 NER 应用的能力。

    Apr, 2023

  • llmNER：利用大型语言模型的（零 | 少）样本命名实体识别

    llmNER 是一个用于实现 LLMs 的零射击和少射击 NER 的 Python 库，通过提供易于使用的接口，llmNER 可以组合提示、查询模型，并解析 LLM 返回的完成结果。该库还通过提供简单的接口来测试多个变量，让用户可以高效地执行提示工程。我们在两个 NER 任务上验证了我们的软件，以展示该库的灵活性。llmNER 旨在推动上下文​​学习研究的界限，消除提示和解析步骤的障碍。

    Jun, 2024