Jul, 2019

自然语言推理中假设偏见的对抗消除

PDF
TL;DR本文探讨如何通过对手博弈学习在自然语言推断任务中减弱假设偏见和虚假关联，结果表明通过对手博弈学习得到的表征可能更加公正且与任务精度下降不大。
natural language inferencenli datasetsadversarial learningbiasesrepresentations
发现论文，激发创造
  • 通过集成对抗训练避免自然语言推理中仅有假设的偏差

    采用对抗性训练和敌对对抗方法的集成来降低自然语言推理中的偏见，这种方法比先前的去偏见努力表现更好，并且在推广到 12 个其他数据集时表现良好。

    Apr, 2020

  • 探究自然语言推理中假设偏差的人工模式：HypoNLI

    该文探究自然语言推理训练模型中的偏见问题，提取假设中的短语作为人工模式，展示它们对于特定标签的强烈指示作用，并探索缓解假设 - 唯一偏见的多种方法，包括下采样和对抗训练等。

    Mar, 2020

  • 稳健自然语言推理中的模型无关去偏策略的实证研究

    本文探索了多种方法使自然语言推理模型具有鲁棒性，包括模型去偏，数据增强等，并提供了性能较好的模型集成方法。

    Oct, 2020

  • 不要以为前提成立：减轻自然语言推理中的人为误差

    提出两种概率方法以构建更稳健的模型，让其更好地跨数据集进行传递，解决了自然语言推理数据集中存在的偏见问题。通过在含有偏差的数据集上进行训练，并在不含偏差数据集上进行测试，结果表明这些方法能够使模型更加稳健，相比基线模型在 12 个自然语言推理数据集中，有 9 个传输效果更好。

    Jul, 2019

  • ViANLI: 针对越南语的对抗自然语言推理

    通过预训练模型在标注过程中使用，本文介绍了对自然语言推理进行研究的越南 NLVS 数据集 ViANLI，并证明基于该数据集训练的模型显著提高了其他越南自然语言推理数据集的结果。

    Jun, 2024

  • 对抗性自然语言推理：自然语言理解新基准

    介绍了一个通过迭代对抗人与模型的程序收集的大规模 NLI 基准数据集，并展示了训练模型在这个新数据集上将导致在各种流行的 NLI 基准测试中的最新性能，同时还带来了更困难的挑战。数据收集方法可以在永不停止的学习场景中应用，成为 NLU 的移动目标，而不是一个很快就会饱和的静态基准测试集。

    Oct, 2019

  • 通过对抗正则化神经 NLI 模型以整合逻辑背景知识

    本文研究了自动生成对抗样本的问题，通过最大化一种度量对抗样本的破坏程度的数量，并利用语言模型生成语言合理的样本，我们将识别此类对抗样本的问题减少为组合优化问题，并提出了一种对抗性规范化神经 NLI 模型以融入背景知识的方法，在 SNLI 和 MultiNLI 数据集上，我们的方法没有总是提高预测准确性，但在对抗性制作的数据集上，我们的方法显著并一致地增加了预测准确性，提高了 79.6％的相对改进，并大大减少了背景知识的违反数量。此外，我们还展示了对抗性样本在模型架构之间的转移作用，以及对抗性训练程序如何提高向对抗性样本的鲁棒性。

    Aug, 2018

  • 通过适应残差来消除自然语言推理数据集中的偏差

    提出了 DRiFt 算法，该算法可以训练出较不受数据集偏差影响的 NLI 模型，该模型在挑战测试集上表现显著优于基准模型，并在原始测试集上保持良好的表现。

    Aug, 2019

  • 自然语言推理中仅基于假设的基准线

    在十个不同的自然语言推理数据集上进行实验后，我们发现使用一种仅基于假设的模型，即使忽略上下文，也可以显著优于大多数 NLI 数据集的大多数基线，分析表明统计异常性可能允许模型在某些数据集中执行 NLI，超出不带上下文访问时本应实现的界限。

    May, 2018

  • 通过建模语料库中的偏见进行端到端偏见缓解

    本文提出了两种学习策略来训练神经模型，更加稳健，并且更能够迁移到域外的数据集。这些策略利用了数据集的偏差，通过 down-weighting 有偏差的例子，使基础模型减少对偏差的依赖。实验表明，我们的去偏差方法在所有设置中都显著提高了模型的稳健性，并且更好地迁移到其他文本蕴涵数据集上。

    Sep, 2019