通过对抗数据集中控制方差分析泛化能力的多样化数据集

Oct, 2019

通过对抗数据集中控制方差分析泛化能力的多样化数据集

Diversify Your Datasets: Analyzing Generalization via Controlled Variance in Adversarial Datasets

Ohad Rozen, Vered Shwartz, Roee Aharoni, Ido Dagan

TL;DR本文提出将现象特定的 “对抗” 数据集用于训练 NLI 和其他类型的模型，表明了原始训练数据中的 “盲区”，并演示了用两个推理现象对该方法进行扩展来推动模型学习和推广目标现象的能力，从而建立更好的挑战数据集以创建更强大且更具鲁棒性的模型。

Abstract

Phenomenon-specific "adversarial" datasets have been recently designed to perform targeted stress-tests for particular inference types. Recent work (Liu et al., 2019a) proposed that such datasets can be utilized for training NLI and other types of models, often allowing to learn the ph

adversarial datasets nli models targeted stress-tests generalization robust models

发现论文，激发创造

测量对抗数据集

在广泛应用于各个领域的 AI 系统的时代，确保对抗性鲁棒性变得越来越重要，以维护安全性并防止不可取的错误。本研究对描述 NLP 任务中文本实例的现有可量化指标进行了系统调查，并选择了几个当前的对抗效应数据集，比较了原始数据与对抗样本之间的分布差异，研究结果揭示了这些数据集在度量角度上更具挑战性的原因及其与基本假设的一致性。

Nov, 2023

微调接种：一种分析挑战数据集的方法

本文介绍了一种新的分析方法，即通过微调接种的方法研究挑战数据集，应用于 NLI “压力测试” 和 Adversarial SQuAD 数据集，结果表明，挑战数据集的失败可能会导致关于模型，训练数据集和挑战数据集本身的完全不同的结论。

Apr, 2019

基于模型的鲁棒深度学习：泛化到自然的离群数据

文章提出了从基于扰动的对抗鲁棒性转向基于模型的鲁棒深度学习的新范式，并探讨了使用深度生成模型来学习自然变化模型并进一步提高深度学习对于自然变化的鲁棒性的三种新型算法，实验表明，该方法在自然情况下能够超越标准深度学习算法和基于范数的鲁棒深度学习算法。

May, 2020

自然对抗样本

使用对抗性过滤技术构建了两个具有挑战性的数据集，分别是 ImageNet-A 和 ImageNet-O，这两个数据集的出现使得计算机视觉模型的性能大幅下降，而现有的数据增强技术和公共训练数据集的使用带来的改进有限。

Jul, 2019

自然语言推断的公平泛化任务设定

本文提出了一个正式的公平概念，并利用人工数据集来展示标准神经模型在要求的泛化方面表现不佳，只有联合组合前提和假设的任务特定模型能够达到高性能，即使这些模型也不能完美解决任务。

Nov, 2019

朝向准确性 - 公正性困境：基于对抗样本的数据增强用于视觉去偏差

研究机器学习中的公平性问题和图像分类任务中的去偏见问题，通过使用对抗性样本进行训练数据增强来实现模型的准确性和公平性。

Jul, 2020

通过反事实例和梯度监督学习区分重要因素

使用对照例子作为监督信号，改进深度学习的训练方法，提高神经网络的泛化能力及性能。

Apr, 2020

对抗训练的数据依赖稳定性分析

通过加入数据分布信息，我们提供了基于随机梯度下降的对抗训练的泛化界限，分析了数据分布的变化和对抗攻击的影响。

Jan, 2024

通过对抗数据增强方法泛化到未见领域

该篇研究论文提出了一个基于循环迭代的数据增强方法，使用虚构的目标领域中存在 “困难” 样本的数据来训练学习模型，以在先前未知的目标领域上实现更好的一般化表现。该方法利用对抗性示例以及数据依赖正则化来提高模型性能。

May, 2018

自监督学习对抗示例：朝着深度伪造检测的良好泛化

利用主动合成的伪造图像进行深度学习的泛化辨别，提出了一种新的深度伪造检测方法，该方法使用一种泛化表示，并通过增加伪造的多样性和扩展敏感性来提高检测效果，采用了对抗训练策略，能获得更好的性能表现。

Mar, 2022