Nov, 2023

低资源命名实体识别：一对多 AUC 最大化是否有帮助？

PDF
TL;DR提出了一个创新的方法，将多类问题作为一对多 (OVA) 学习问题来解决，引入了基于接收器操作特征曲线 (AUC) 下面积的损失函数，通过提出两种训练策略，改进了效率，从而在不同的命名实体识别 (NER) 设置中超过传统 NER 学习的性能。
named entity recognitionnerimbalanced label distributionslow-resource settingsova learning
发现论文，激发创造
  • 低资源命名实体识别的 AUC 最大化

    本文提出了在 NER 中使用 AUC 最大化进行优化的方法，通过结合两个最大化 AUC 分数的二分类器，在低资源 NER 设置下实现比传统损失函数的显著性能提升，实验结果表明，该方法不受不同 NER 嵌入，模型和领域的影响。

    Dec, 2022

  • 大数据和人工智能时代的 AUC 最大化调查

    本文概述了过去 20 年中与 AUC 最大化相关的文献，不仅提供全面的文献综述，还从公式到算法和理论保证提供了详细的解释和比较，并对深度学习 AUC 最大化的剩余和新兴问题进行了讨论。提供未来工作的建议。

    Mar, 2022

  • 高度不平衡数据下适应性命名实体识别

    本报告提出了一种基于条件随机场层和双向 LSTM 层的神经网络体系结构，其中嵌入向量（Glove，BERT）的融合输入被用来增强模型的泛化能力，还引入了一个分类模型来分离句子并对弱类和强类进行优化以提高 Named Entity Recognition 任务的性能。经实验证明，该方法显著提高了弱类的表现结果，并且只使用了非常少量的数据集。

    Mar, 2020

  • 多个未标记数据集的 AUC 优化

    本文研究如何从多个未标注数据集中构建一个 AUC 优化模型，提出了一种称为 U^m-AUC 的方法，将 U^m 数据转化为多标签 AUC 优化问题，可以有效地进行理论与实证研究。

    May, 2023

  • 通过多任务 AUC 优化学习个性化属性偏好

    提出一种基于多任务学习的方法，通过属性偏好学习、AUC 损失函数以及梯度的高效计算方法，实现了个性化的属性学习，进而保证个性化的排序预测效果。

    Jun, 2019

  • 仅从相关关键词和未标记文档中学习

    本文提出了一个理论上有保证的学习框架，用于无标签文档的分类问题，该框架可以灵活选择模型，并且有效地优化了接收器操作特征曲线下的面积，并在基准数据集上展示了其有效性。

    Oct, 2019

  • 一种用于小样本命名实体识别的统一标签感知对比学习框架

    我们提出了统一的标签感知令牌级对比学习框架，通过利用标签语义作为后缀提示来丰富上下文，同时优化上下文 - 上下文和上下文 - 标签对比学习目标，从而提高推广辨别性的上下文表示。广泛的实验表明我们的方法在各种传统测试领域和大规模少样本 NER 数据集上优于先前的最先进模型，微粒 F1 分数平均绝对增益达到 7%。进一步的分析揭示了我们模型受益于其强大的迁移能力和改进的上下文表示。

    Apr, 2024

  • 针对命名实体识别中无标签实体问题的噪声鲁棒性损失函数

    本文提出了一种新的名词实体识别（Named Entity Recognition，NER）的方法 NRCES，通过使用 sigmoid 函数减轻噪声的负面影响并平衡模型的收敛速度和噪声容忍度，成功地解决了大规模无标注数据集的识别问题，并在合成和现实数据集上表现出了鲁棒性。

    Aug, 2022

  • 命名实体识别中的泛化：定量分析

    本文旨在量化命名实体识别（NER）方法在 Web 内容和用户生成内容中的多样性如何影响其效果，并发现 NER 方法在具有有限训练数据的多样化数据类型中难以实现推广。文章还发现，领先的 NER 系统靠训练数据中的表面形式，很难进行推广。

    Jan, 2017

  • 统一的分类和拒绝：一对多的框架

    通过使用统一框架和混合训练策略，本文在开放世界模式识别中建立了一个能够同时进行分类和拒绝未知输入的开放集分类器，实验证明该方法在闭集分类、未知输入检测和错误分类检测中表现竞争性。

    Nov, 2023