ACLOct, 2021

优秀的示范使学习更快：针对低资源 NER 的简单基于演示的学习

PDF
TL;DR本文提出了一种演示为基础的命名实体识别学习方法，研究了演示策略对模型在低资源情况下性能的影响，并在领域内学习和领域适应中证明了良好的演示可以节省很多标记示例并促进更好的性能表现。
发现论文，激发创造
  • 基于示例的命名实体识别

    我们提出了一种新的名词实体识别方法，称为基于示例的实体识别，在缺乏数据的情况下通过受到问答启发，使用少量支持示例来识别新领域中的实体范围，与当前最先进的方法相比，该方法表现出更好的性能，特别是在使用少量支持示例时。

    Aug, 2020

  • 有限数据情况下示范学习的鲁棒性

    本研究旨在探明演示学习方法对于预训练语言模型在数据量有限的情况下的提升效果以及其原因。我们设计了不同类型的演示数据来研究其鲁棒性，发现无论演示数据的内容是随机的还是包含部分有用信息，都能使模型成为更好的 few-shot learner，证明了演示学习方法能够提升标记序列学习的能力。

    Oct, 2022

  • PromptNER: 命名实体识别提示

    本文介绍了 PromptNER 算法，将大型语言模型与有限训练样本相结合，实现跨领域、少量样本下的命名实体识别任务，相对于传统方法，取得了十分显著的性能提升。

    May, 2023

  • 无需模板的少样本命名实体识别指令微调

    本文提出了一种更优雅的方法，将 NER 任务重新制定为 LM 问题，同时探索了自动搜索合适的标签词的方法，该方法避免了复杂的基于模板的过程，并且实验证明其在少量样本情况下表现更佳，并且解码速度比基于模板的方法快了 1930.12 倍。

    Sep, 2021

  • 少量的注释带来大量的好处：低资源命名实体识别器自举的研究

    该研究探讨了在资源匮乏的语言中高效创建高质量实体识别器的最有效方法，通过运用跨语言转移、有针对性注释同属于两种策略的方法，实现在小数据集下快速精确识别实体的结果。

    Aug, 2019

  • 应对 Few-shot 命名实体识别中的重复训练和样本依赖问题的研究

    我们的研究提出了一个改进的少样本命名实体识别流程，利用预训练的跨领域跳板标识检测器和大规模语言模型，有效减少了基本特征的重复训练，同时消除了对少样本的依赖，通过广泛的实验表明，在各种数据集上，我们的模型在细粒度少样本命名实体识别方面胜过基线模型，包括 ChatGPT。

    Jun, 2024

  • 医疗文本中的少样本命名实体识别

    本研究在仅有 10 个注释示例的情况下，通过使用预训练权重、超参数调整、预处理数据、自定义词嵌入和优化词外词汇等 5 个因素改善了命名实体识别任务，并将其 F1 得分从 69.3% 提高到 78.87%。

    Nov, 2018

  • InstructionNER: 一个多任务基于指令的生成框架，用于少样本 NER

    本文提出了一种基于多任务指令的生成式框架 InstructionNER，用于低资源的命名实体识别。实验结果表明，我们的方法在少样本任务中始终优于其他基线模型。

    Mar, 2022

  • 基于 BART 的模板化命名实体识别

    该论文提出了一种基于模板的方法，将 NER 视为一种序列到序列的语言模型排序问题，在推理过程中，模型需要根据相应的模板分数对每个候选实体进行分类，实验结果表明，该方法在 CoNLL03 数据集上取得了 92.55% 的 F1 得分，在 MIT Movie、MIT Restaurant 和 ATIS 数据集上也分别比 BERT 微调方法显着提高了 10.88%、15.34% 和 11.73% 的 F1 得分。

    Jun, 2021

  • ContrastNER: 基于对比的提示调整用于少样本 NER

    该论文提出了 ContrastNER，一个基于提示的命名实体识别框架，使用离散和连续的标记来学习对话。通过对比学习的方法，ContrastNER 在高资源设置中获得了与现有技术同样的性能，并在低资源环境中胜过现有模型。

    May, 2023