May, 2024

有效且稳健的对抗训练以应对数据和标签损坏

PDF
TL;DR我們提出了一種有效且強健的對抗訓練 (ERAT) 框架，能夠同時處理兩類污染 (即數據和標籤)，而不需要事先了解其具體信息。我們通過混合對抗訓練和基於類平衡樣本選擇的半監督學習提高了模型對雙重污染的韌性。大量實驗證明了我們提出的 ERAT 框架的優越性。
corruptionsdata perturbationslabel noiseadversarial trainingsemi-supervised learning
发现论文，激发创造
  • 异常鲁棒性对抗训练

    基于异常值健壮的对抗训练（ORAT）是在传统健壮学习方法和最近的对抗训练方法的基础上开发的，以同时处理低质量训练数据和推理时的敌对攻击，并在三个基准数据集上展示了其有效性和鲁棒性。

    Sep, 2023

  • 认证鲁棒神经网络：泛化和抗污染性

    通过提出综合强健的（HR）训练程序，理论和实验证明了其在对抗错误损失方面具有 SOTA 性能，并克服了在敌对训练中普遍存在的过度拟合问题。

    Mar, 2023

  • 对抗训练对常见噪声的有效性

    本文针对常见数据污染问题，探讨了对抗训练在提高精度和校准性方面比简单高斯噪声数据增强更有效的现象，并提出了新的方法 —— 基于感知图像补丁相似度的对抗训练松弛，通过实验验证此方法可以优化原有的对抗训练基础模型，同时结合数据增强策略获得更好的性能。

    Mar, 2021

  • 使用 Mixup 和有针对性的标签对抗训练以提高神经网络的稳健性

    提出一种名为 M-TLAT 的新型数据增强策略，结合了 Mixup 增强和一种名为 Targeted Labeling Adversarial Training（TLAT）的新对抗训练算法，有效提高了图像分类器对于常见污染和对抗性攻击的鲁棒性，同时不会降低对于正常样本的准确率。

    Aug, 2020

  • 双边对抗训练：快速训练更健壮的模型以抵御对抗性攻击

    本文提出了一种 Bilateral Adversarial Training 方法，使用一步定向攻击生成对抗样本来训练一个抗攻击性更强的神经网络，实验结果表明该方法对于对抗性攻击的鲁棒性有显著提升。

    Nov, 2018

  • 标签是否需要以提高对抗性鲁棒性？

    研究表明，使用未标记的数据进行训练可以作为对于耐受对抗攻击模型的有竞争力的替代方法，具体而言是在简单的统计情况下，学习对抗鲁棒模型的样本复杂度与完全受监督的情况一致。此外，使用未标记数据的无监督对抗训练方法可以在 CIFAR-10 这样的标准数据集上，使得鲁棒准确性比仅仅使用 4K 监督样例有 21.7% 的提升，并且可以捕捉到相同数量标记样例的改进量中超过 95% 的部分。最后，使用来自未筛选的 8000 万张小图片数据集的额外未标记数据，在 CIFAR-10 上击败了当前已知最强的攻击，展示了我们的发现也适用于未筛选的现实情况，从而为提高对抗训练打开了新的途径。

    May, 2019

  • CAT: 用于提高鲁棒性的定制对抗训练

    本文提出一种称为自定义对抗训练（CAT）的新算法。通过自适应地定制对抗样本的扰动级别和相应的标签，CAT 算法在对抗训练中使得训练样本的多样性增强，取得了比以前的对抗训练方法更好的干净和鲁棒性能。

    Feb, 2020

  • FACTUAL: 基于对比学习的鲁棒 SAR 图像分类的新框架

    利用 FACTUAL 框架进行对抗训练和鲁棒性合成孔径雷达目标识别，通过引入逼真的物理对抗攻击方案和线性分类器级联的方法，在干净样本和扰动样本上预训练和微调后，模型在两种情况下的预测准确率分别达到 99.7% 和 89.6%，都优于现有最先进方法。

    Apr, 2024

  • 使用可信数据训练深度网络处理被严重噪声污染的标签

    本文提出了一种在深度神经网络分类器中使用有信任子集数据以及基于损失修正技术的方法，大大提高了分类器对标签噪声的鲁棒性。实验结果表明，该方法在视觉和自然语言处理任务中均取得了较好的性能表现。

    Feb, 2018

  • 半监督学习的对抗性转换

    本文提出了一种基于对抗转化的正则化框架 (RAT) 来提高半监督学习的鲁棒性，研究表明，与现有正则化方法相比，RAT 可以在标准半监督图像分类环境下显著提高分类性能。

    Nov, 2019