ACLMar, 2022

Few Shot 命名实体识别的标签语义

PDF
TL;DR本文提出了一种神经架构，利用 BERT 编码器，匹配文档的 tokens 和标签语义信号的表示，从而在命名实体识别的少样本情况下，实现了先进的结果。此外，该模型在低资源环境中表现出很好的效果。
few shot learningnamed entity recognitionbert encoderslabel semanticslow resource settings
发现论文，激发创造
  • 基于大规模标签解释学习的少样本命名实体识别

    利用自然语言描述学习实体类型解释，通过大规模扩展实体类型和描述，可以显著提高零样本和少样本命名实体识别。

    Mar, 2024

  • 少样本命名实体识别：综合研究

    本文提出了一种有效地建立识别命名实体（NER）系统的方法，基于最近的基于转换器的自我监督预训练语言模型（PLMs），并探讨了三种正交的方案来改进针对少样例情况的模型泛化能力，通过大量实验结果表明，我们的方法在少数样例学习环境中显著改善或优于基于域标记微调的 PLM 线性分类器等基线方法，同时在无训练和少样例学习环境下建立了最新的业界记录。

    Dec, 2020

  • 一种用于小样本命名实体识别的统一标签感知对比学习框架

    我们提出了统一的标签感知令牌级对比学习框架，通过利用标签语义作为后缀提示来丰富上下文，同时优化上下文 - 上下文和上下文 - 标签对比学习目标，从而提高推广辨别性的上下文表示。广泛的实验表明我们的方法在各种传统测试领域和大规模少样本 NER 数据集上优于先前的最先进模型，微粒 F1 分数平均绝对增益达到 7%。进一步的分析揭示了我们模型受益于其强大的迁移能力和改进的上下文表示。

    Apr, 2024

  • 简单语义辅助的少样本学习

    利用少量数据进行学习是一项具有挑战性的计算机视觉任务，本文通过引入高质量的语义以及使用简单的网络结构，设计了一个名为 “语义进化” 的自动化方式来解决少样本学习中的问题，实验证明该方法在少样本分类任务中表现优异。

    Nov, 2023

  • 面向文档图像的小样本实体识别：一种标签感知的序列到序列框架

    本文提出了一种在只有少量带注释的文档图像的情况下进行实体识别的方法，通过标签表面名称进行空间标记以及语义学习，开发了一种新颖的标签感知序列到序列框架（LASER）。用实验结果验证本文的方法在小样本学习情况下的有效性。

    Mar, 2022

  • Few-Shot 嵌套命名实体识别

    本文首次提出了针对 few-shot 嵌套 NER 任务的 Biaffine 对比学习框架 (BCL)，该框架利用上下文依赖来区分嵌套实体，将语义表示与上下文跨度表示相结合，并采用对比学习来调整表示分布，实现更大的边缘边界和更广泛的领域迁移学习能力。实验结果表明，在三个英语、德语、俄语嵌套 NER 数据集上，BCL 在 1-shot 和 5-shot 任务中的 F1 得分优于三个基本模型。

    Dec, 2022

  • 增强式自然语言用于生成式序列标记

    该研究提出了一种生成式框架，用于多个序列标记任务和句子级分类。与以往的判别式方法不同，该模型通过共享自然语言输出空间，自然地融合标签语义，并在任务之间共享知识。该框架具有通用性，可在 few-shot、低资源和高资源任务上表现良好，并在命名实体识别、槽位标记和意图分类等基准测试中展示了这些优势。

    Sep, 2020

  • 命名实体识别任务中的少样本分类

    本论文研究使用（基于度量学习的）原型网络来进行少样本命名实体识别任务，其可以学习单词的中间表示并对其进行聚类来进行类别分类，通过将该技术与迁移学习结合使用，可以在只有很少的训练实例的情况下实现良好的分类器，进而实现零样本学习。

    Dec, 2018

  • 从语言描述中学习：基于分解框架的低样本命名实体识别

    该研究提出了一个基于预训练语言模型的新型 NER 框架：SpanNER，在低资源环境下的 few-shot 学习、领域转移和 zero-shot 学习设置中，可以识别从未出现的实体类，通过实验可知其相比于最佳基准线平均能提高 10％，23％和 26％。

    Sep, 2021

  • 基于提示的度量学习用于小样本命名实体识别

    本研究提出了一种使用多重提示架构和度量学习方法来解决 few-shot named entity recognition 中标注语义缺陷的问题，并在 18 个场景中实现了新的最先进结果，平均相对增益为 8.84％，最大相对增益为 34.51％。

    Nov, 2022