Apr, 2024

一种用于小样本命名实体识别的统一标签感知对比学习框架

PDF
TL;DR我们提出了统一的标签感知令牌级对比学习框架，通过利用标签语义作为后缀提示来丰富上下文，同时优化上下文 - 上下文和上下文 - 标签对比学习目标，从而提高推广辨别性的上下文表示。广泛的实验表明我们的方法在各种传统测试领域和大规模少样本 NER 数据集上优于先前的最先进模型，微粒 F1 分数平均绝对增益达到 7%。进一步的分析揭示了我们模型受益于其强大的迁移能力和改进的上下文表示。
few-shot named entity recognitioncontrastive learninglabel-aware token-level contrastive learningcontextual representationsmicro f1 scores
发现论文，激发创造
  • 基于大规模标签解释学习的少样本命名实体识别

    利用自然语言描述学习实体类型解释，通过大规模扩展实体类型和描述，可以显著提高零样本和少样本命名实体识别。

    Mar, 2024

  • Few-Shot 嵌套命名实体识别

    本文首次提出了针对 few-shot 嵌套 NER 任务的 Biaffine 对比学习框架 (BCL)，该框架利用上下文依赖来区分嵌套实体，将语义表示与上下文跨度表示相结合，并采用对比学习来调整表示分布，实现更大的边缘边界和更广泛的领域迁移学习能力。实验结果表明，在三个英语、德语、俄语嵌套 NER 数据集上，BCL 在 1-shot 和 5-shot 任务中的 F1 得分优于三个基本模型。

    Dec, 2022

  • 通过对比学习实现容器式的少样本命名实体识别

    该论文提出了一种名为 CONTaiNER 的对比学习方法，优化 token 之间分布距离来改善 Few-Shot Named Entity Recognition 的泛化能力，实验证明该方法在多个领域和新的 Few-Shot NER 数据集上表现优异。

    Sep, 2021

  • 少样本命名实体识别：综合研究

    本文提出了一种有效地建立识别命名实体（NER）系统的方法，基于最近的基于转换器的自我监督预训练语言模型（PLMs），并探讨了三种正交的方案来改进针对少样例情况的模型泛化能力，通过大量实验结果表明，我们的方法在少数样例学习环境中显著改善或优于基于域标记微调的 PLM 线性分类器等基线方法，同时在无训练和少样例学习环境下建立了最新的业界记录。

    Dec, 2020

  • 上下文学习的少样本嵌套命名实体识别

    我们提出了一个有效和创新的 ICL 框架，用于少样本嵌套命名实体识别，通过设计一种新颖的示例演示选择机制 EnDe 检索器，我们通过对比学习进行语义相似性、边界相似性和标签相似性的三类表示学习来生成高质量的演示示例，在三个嵌套 NER 和四个平面 NER 数据集上的大量实验表明我们系统的有效性。

    Feb, 2024

  • 基于示例的命名实体识别

    我们提出了一种新的名词实体识别方法，称为基于示例的实体识别，在缺乏数据的情况下通过受到问答启发，使用少量支持示例来识别新领域中的实体范围，与当前最先进的方法相比，该方法表现出更好的性能，特别是在使用少量支持示例时。

    Aug, 2020

  • 从语言描述中学习：基于分解框架的低样本命名实体识别

    该研究提出了一个基于预训练语言模型的新型 NER 框架：SpanNER，在低资源环境下的 few-shot 学习、领域转移和 zero-shot 学习设置中，可以识别从未出现的实体类，通过实验可知其相比于最佳基准线平均能提高 10％，23％和 26％。

    Sep, 2021

  • PromptNER: 命名实体识别提示

    本文介绍了 PromptNER 算法，将大型语言模型与有限训练样本相结合，实现跨领域、少量样本下的命名实体识别任务，相对于传统方法，取得了十分显著的性能提升。

    May, 2023

  • 基于结构最近邻学习的简单有效少样本命名实体识别

    论文提出了一个基于最近邻学习和结构化推理的简单的少样本命名实体识别系统，使用一个有监督的 NER 模型在源领域上进行训练，作为特征提取器，提出了一种捕获实体标签之间标签依赖性的廉价但有效的方法，并将结构化解码与最近邻学习相结合，达到了先进的表现。该方法使得 F1 分数相对于以前基于元学习的系统提高了 6％至 16％的绝对值。

    Oct, 2020

  • 低资源跨语言命名实体识别的双重对比框架

    本篇论文提出了一种名为 ConCNER 的新颖双重对比框架，针对有限来源语言标注数据的跨语言命名实体识别问题，通过翻译对数据进行增广，并利用对比学习和知识蒸馏的方法，提高模型的性能。

    Apr, 2022