Dec, 2023

鲁棒的少样本命名实体识别：边界判别和相关性净化

PDF
TL;DR本研究探索和评估少样本命名实体识别模型在文本对抗攻击场景下的鲁棒性，并提出了一个由边界判别和关联净化组成的鲁棒两阶段少样本命名实体识别方法。该方法通过引入边界判别模块和净化关联模块，提高了命名实体边界检测和实体类型判别的鲁棒性，并在 Few-NERD 和 Cross-Dataset 两个包含对抗样本的少样本命名实体识别数据集上进行了综合评估，展示了其鲁棒性和优越性。
发现论文，激发创造
  • 一种用于小样本命名实体识别的统一标签感知对比学习框架

    我们提出了统一的标签感知令牌级对比学习框架，通过利用标签语义作为后缀提示来丰富上下文，同时优化上下文 - 上下文和上下文 - 标签对比学习目标，从而提高推广辨别性的上下文表示。广泛的实验表明我们的方法在各种传统测试领域和大规模少样本 NER 数据集上优于先前的最先进模型，微粒 F1 分数平均绝对增益达到 7%。进一步的分析揭示了我们模型受益于其强大的迁移能力和改进的上下文表示。

    Apr, 2024

  • Few-Shot 嵌套命名实体识别

    本文首次提出了针对 few-shot 嵌套 NER 任务的 Biaffine 对比学习框架 (BCL)，该框架利用上下文依赖来区分嵌套实体，将语义表示与上下文跨度表示相结合，并采用对比学习来调整表示分布，实现更大的边缘边界和更广泛的领域迁移学习能力。实验结果表明，在三个英语、德语、俄语嵌套 NER 数据集上，BCL 在 1-shot 和 5-shot 任务中的 F1 得分优于三个基本模型。

    Dec, 2022

  • 应对 Few-shot 命名实体识别中的重复训练和样本依赖问题的研究

    我们的研究提出了一个改进的少样本命名实体识别流程，利用预训练的跨领域跳板标识检测器和大规模语言模型，有效减少了基本特征的重复训练，同时消除了对少样本的依赖，通过广泛的实验表明，在各种数据集上，我们的模型在细粒度少样本命名实体识别方面胜过基线模型，包括 ChatGPT。

    Jun, 2024

  • 实体界限干扰攻击命名实体识别

    本文提出了一种名为 ViBA 的新型 NER 攻击方法，通过添加边界来干扰模型决策，对 RoBERTa 和 DeBERTa 等先进语言模型进行攻击，同时具有较高的攻击成功率和更快的速度。

    May, 2023

  • 少样本命名实体识别：综合研究

    本文提出了一种有效地建立识别命名实体（NER）系统的方法，基于最近的基于转换器的自我监督预训练语言模型（PLMs），并探讨了三种正交的方案来改进针对少样例情况的模型泛化能力，通过大量实验结果表明，我们的方法在少数样例学习环境中显著改善或优于基于域标记微调的 PLM 线性分类器等基线方法，同时在无训练和少样例学习环境下建立了最新的业界记录。

    Dec, 2020

  • 基于大规模标签解释学习的少样本命名实体识别

    利用自然语言描述学习实体类型解释，通过大规模扩展实体类型和描述，可以显著提高零样本和少样本命名实体识别。

    Mar, 2024

  • FactMix: 使用少量领域内标注样本泛化到跨领域命名实体识别

    本文提出了一种基于理性的两步数据增强方法来提高模型的泛化性能，用于跨域 NER 任务，结果表明我们的模型无论是在数据增强还是提示调整方法中都显著提高了交叉域 NER 任务的性能。

    Aug, 2022

  • 一种原型语义解耦方法通过联合对比学习用于少样本命名实体识别

    本文提出了一种通过联合对比学习实现原型语义解耦的方法 ——PSDC，以应对现有基于原型的序列标注模型往往会记忆实体提及的问题，PSDC 采用两种掩码策略将类别特定原型和上下文语义原型进行解耦，以便模型专注于两种不同的语义信息以进行推理，实验结果表明 PSDC 在两个 few-shot NER 基准测试中表现出了优秀的性能。

    Feb, 2023

  • 从语言描述中学习：基于分解框架的低样本命名实体识别

    该研究提出了一个基于预训练语言模型的新型 NER 框架：SpanNER，在低资源环境下的 few-shot 学习、领域转移和 zero-shot 学习设置中，可以识别从未出现的实体类，通过实验可知其相比于最佳基准线平均能提高 10％，23％和 26％。

    Sep, 2021

  • 基于因果干预的少样本命名实体识别

    本文提出一种基于因果干预的少样本 NER 方法，通过背门调整和增量学习干预原型，避免了少样本选择偏差所带来的虚假相关性问题，并在不同基准测试中取得了新的最佳表现。

    May, 2023