ACLAug, 2021

重新思考负采样来处理缺失实体注释

PDF
TL;DR本文介绍了关于如何使用负采样处理命名实体识别任务的缺失注释的分析和改进方法，通过引入 missampling 和 uncertainty 两个概念，实验证明负采样的低错误率和高不确定性是实现良好表现的关键，并提出了一种自适应和加权采样方法提高了负采样性能，证明在合成数据集以及 CoNLL-2003 数据集中，改进后的负采样方法能够提高 F1 得分且 loss 收敛速度更快，更进一步在实际数据集比如 EC 上取得了最新的最佳效果。
negative samplingnamed entity recognitionmissamplinguncertaintyadaptive sampling
发现论文，激发创造
  • 命名实体识别中未标注实体问题的实证分析

    通过使用负采样，避免 NER 模型的训练受到未标注实体的干扰，提出了一种能够有效应对未标注实体问题的方法。在实验中，该方法表现出很强的鲁棒性，甚至能够超越现有的基线模型。

    Dec, 2020

  • 远距监督命名实体识别负例更好的采样

    本文提出了一种简单直接的方法，通过选择与所有正样本相似度高的负样本来训练，以提高四个远程监督 NER 数据集的性能表现，并且分析表明有必要区分真负样本和假负样本。

    May, 2023

  • 简化和加强隐式协同过滤负采样

    本文提出一种简化负采样模型的方法，通过针对设计的内存进行高效采样，解决模型学习中的假阴性问题。在两个合成数据集和三个真实数据集上的实证结果表明，该方法在负采样方面具有鲁棒性和优越性。

    Sep, 2020

  • 重新思考生成式命名实体识别的负实例

    通过引入负实例并采用分层匹配算法，本研究在大型语言模型上实现了对命名实体识别任务的改进，提出了改进的零样本性能的生成式 NER 系统 GNER。

    Feb, 2024

  • 图表示学习中负采样的理解

    本文研究图表示学习中的负采样对于优化目标和结果方差的重要性，并提出了一种基于自对比近似和 Metropolis-Hastings 加速的负采样方法，MCNS，应用于链接预测、节点分类等任务，并在 19 个实验设置中证明了其优越性。

    May, 2020

  • 知识图谱嵌入的实体感知负采样与误判辅助损失

    本文提出了一种名为 EANS（Entity Aware Negative Sampling）的新方法，采用高斯分布对齐的实体索引空间来抽样与正实体类似的负实体，同时引入辅助损失来缓解样本的负效应，结果表明本文的方法在几个知识图谱嵌入模型上优于现有的负采样最先进方法，且即使负样本数目受限制时，也能达到有竞争力的性能。

    Oct, 2022

  • 使用部分标注的训练数据进行命名实体识别

    研究了使用部分标记数据进行命名实体识别的问题，用迭代算法通过识别假负标签减小其权值，训练带有偏重的 NER 模型，取得 8 种语言的实验结果，并在孟加拉语 NER 语料库中比现有最优算法提高 5 个百分点的 F1 分数。

    Sep, 2019

  • SimANS: 简单的模糊负例采样在密集文本检索中的应用

    提出了一种简单的 “SimANS” 方法用于负采样，通过使用新的采样概率分布来选择歧义性更大的负例，并显示相对于已有方法更加有效。

    Oct, 2022

  • 通过预期实体比率损失实现部分监督的实体识别

    研究利用潜在变量标注的缺失实体标注学习命名实体识别器的方法，提出了期望实体比率的新损失函数，并证明其在理论和实践上的有效性和优越性。

    Aug, 2021

  • 贝叶斯负采样用于推荐

    提出了一种基于贝叶斯分类器的负采样算法（BNS），通过区分真负样本和虚假负样本，提高了负采样的质量和推荐性能。

    Apr, 2022