ACLOct, 2021

分析极限情况下的动态对抗训练数据

PDF
TL;DR使用动态对抗数据采集（DADC）能够不断地生成具有挑战性的例子，获得更多的训练样本，可提高模型泛化能力，同时减少模型的错误率。我们进行了长期的 DADC 研究，并使用对抗性和非对抗性方法收集了 20 个 NLI 示例，该方法训练的模型在我们的测试集上减少了 26％的错误率。
dynamic adversarial data collectiondiverse training setgeneralizationnli examplesadversarial test data
发现论文，激发创造
  • 利用人类和模型循环收集高质量对抗数据以用于机器阅读理解任务

    本文介绍我们在创建高质量的、针对任务 1 的机器阅读理解数据的过程中的经验，并描述了我们基于不同专题的定量定性分析结果以及与注释员信心的相关性，最后我们提出了相关建议。

    Jun, 2022

  • 对抗数据收集在问答中的有效性：一项大规模随机研究的结果

    本文通过对问答模型进行大规模对比研究，发现对抗训练对提升模型在对抗数据集上的表现有帮助，但在领域外数据集上却不够稳健；同时，文章进行了对抗数据和标准数据的质量比较，为未来的研究提供指导。

    Jun, 2021

  • 支持标注人员的提升对抗数据收集：GAHD 德语仇恨言论数据集的经验教训

    通过 GAHD 数据集，作者通过新策略支持标记人员创造更多样化的对抗性样本，提高现有仇恨言论检测模型的鲁棒性。

    Mar, 2024

  • DADA: 极低数据量分类的深度对抗数据增强

    本文针对数据稀缺问题提出了一种基于生成式对抗网络的深度数据增广技术（DADA），该方法中新的判别器损失函数使得生成的数据样本能够帮助训练，并将 DADA 与传统增广、GAN 等方法比较实验证明，DADA 方法在实际情况中训练深度神经网络的泛化能力上具有更优越的能力.

    Aug, 2018

  • 2022 DADC 赛场上的长角牛：欺骗问答模型需要多少语言学家？对抗性攻击的系统方法

    本文介绍了使用对抗手段来挑战自然语言处理系统的方法，并以 “longhorns” 小组在动态对抗数据收集第一次比赛中首位完成的提取型问答任务为例，强调了对抗提问的系统性和语言学知识，并描述了该小组的实验和提交结果。

    Jun, 2022

  • 打败 AI：探究用对抗性人类标注来提升阅读理解

    研究注释方法对于提高阅读理解数据集和模型的影响，发现对模型进行对抗训练后，模型对非对抗训练数据仍有较强的泛化能力。同时，模型仍然可以从比其弱的模型注释得到的数据学习。

    Feb, 2020

  • 生成自然语言对抗样本

    通过黑盒基于人口的优化算法生成有迷惑性的语义和语法类似的对抗样本，不仅能提高情感分析和文本蕴涵模型的错误率，还能在 20 名人类注释者中得到 92.3% 的标签正确分类。进一步讨论了对抗训练作为一种防御的尝试，但未能产生改进，说明了这种对抗样本的强大和多样性。我们希望此研究能够鼓励研究人员追求提高自然语言域下深度神经网络的鲁棒性。

    Apr, 2018

  • 动态分治对抗训练用于稳健语义分割

    本研究探索了对语义分割数据进行通用对抗训练的方法，提出了动态分治对抗训练（DDC-AT）策略，将像素分为多个分支，以增强对抗攻击的防御效果。实验表明，DDC-AT 在白盒和黑盒攻击下都具有令人满意的性能。

    Mar, 2020

  • 自然对抗样本

    使用对抗性过滤技术构建了两个具有挑战性的数据集，分别是 ImageNet-A 和 ImageNet-O，这两个数据集的出现使得计算机视觉模型的性能大幅下降，而现有的数据增强技术和公共训练数据集的使用带来的改进有限。

    Jul, 2019

  • 朝向准确性 - 公正性困境：基于对抗样本的数据增强用于视觉去偏差

    研究机器学习中的公平性问题和图像分类任务中的去偏见问题，通过使用对抗性样本进行训练数据增强来实现模型的准确性和公平性。

    Jul, 2020