Mar, 2021

对抗训练对常见噪声的有效性

PDF
TL;DR本文针对常见数据污染问题，探讨了对抗训练在提高精度和校准性方面比简单高斯噪声数据增强更有效的现象，并提出了新的方法 —— 基于感知图像补丁相似度的对抗训练松弛，通过实验验证此方法可以优化原有的对抗训练基础模型，同时结合数据增强策略获得更好的性能。
robustnessadversarial trainingcommon corruptionsdata augmentationperceptual image patch similarity
发现论文，激发创造
  • 数据增强能提高稳健性

    本文研究减轻对抗训练中的过拟合现象，使用常见的数据增强方案，证明数据增强与模型平均结合可以显著提高鲁棒性，尤其是空间组合技术的效果最佳，最终在 CIFAR-10、CIFAR-100、SVHN 和 TinyImageNet 上得到了明显的性能提升。

    Nov, 2021

  • 多扰动下的对抗训练和鲁棒性

    针对对抗样本的防御，如对抗训练，通常针对单个干扰类型（例如小的 l∞- 噪声），对于其它类型的干扰，这些防御没有保障，甚至会增加模型的脆弱性。我们的目标是了解这种鲁棒性取舍背后的原因，并训练同时对多种扰动类型具有鲁棒性的模型。

    Apr, 2019

  • 提高对抗鲁棒性的数据增强修复

    本文研究对抗训练的过拟合问题，提出利用数据增强和生成模型增加训练集大小，提高对抗鲁棒性，并在 CIFAR-10 数据集上取得最新成果，其中对于 Ε=8/255 的 l∞规范扰动，模型不使用外部数据时达到 64.20％的鲁棒准确性，超过了大多数先前使用外部数据的研究成果。

    Mar, 2021

  • 仅进行数据增强即可改善对抗训练

    本文证明了，与先前的研究相反，仅凭借数据增强，可以显着提高对抗训练的准确性和鲁棒性，数据增强的多样性和难度是提高训练效果的重要因素。作者提出了新的数据增强方案，并通过实验验证，达到了对抗训练中数据增强的最佳效果。

    Jan, 2023

  • 攻击对抗性攻击作为一种防御

    通过对敌对学习及攻击的深入探究，我们发现在敌对性训练的模型中，用微小的随机噪声扰动部分攻击样本能够破坏其误导性预测，为此我们提出了一种有效的防御方法，是通过制造更加有效的防御扰动方法，利用敌对训练降低了地面真实的局部 Lipschitzness，同时攻击所有类别，将误导的预测转换为正确的预测，这种方法在经验实验证明有效。

    Jun, 2021

  • 使用随机 Lp 范数损坏研究图像分类器的抗腐化性能

    研究探讨了随机 Lp - 范数扰动在图像分类器数据训练和测试中的作用，发现训练数据使用 L0 - 范数扰动可以提高模型的容错性且不影响正确率，建议在使用先进的数据扩充技术的基础上使用 L0 - 范数扰动进行数据增广。

    May, 2023

  • 利用对抗对比学习提高目标检测器对常见干扰的鲁棒性

    该研究提出了一种创新的对抗对比学习框架，通过生成实例级对抗样本和优化对比损失，增强了神经网络对抗攻击和常见扭曲的鲁棒性，同时通过对比学习增强了干净样本与对抗样本之间的相似性，从而使得表示具有对抗攻击和常见扭曲的抵抗力。通过改善对抗和实际应用条件下的性能，该方法旨在增强神经网络在安全关键应用中的鲁棒性，如自主车辆在不可预测的天气条件下行驶。我们预计这个框架将有助于提高神经网络在具有挑战性环境中的可靠性，促进其在任务关键场景中的广泛应用。

    Nov, 2023

  • 有效且稳健的对抗训练以应对数据和标签损坏

    我們提出了一種有效且強健的對抗訓練 (ERAT) 框架，能夠同時處理兩類污染 (即數據和標籤)，而不需要事先了解其具體信息。我們通過混合對抗訓練和基於類平衡樣本選擇的半監督學習提高了模型對雙重污染的韌性。大量實驗證明了我們提出的 ERAT 框架的優越性。

    May, 2024

  • 使神经网络对多种图像污染具有鲁棒性的简单方法

    该研究论文证明，通过对图像识别模型进行简单但适当的高斯噪声和斑点噪声训练，可以使其具有更好的泛化能力和对不同类型损坏更强的鲁棒性，并结合敌对训练方法进一步提高性能。

    Jan, 2020

  • 计算机视觉中模型鲁棒性的傅里叶视角

    计算机视觉中，通过数据增强方式可以提高鲁棒性，但增加高斯数据增强和对抗训练等方法并不能保证所有的污染类型都能同样得到提高，因此需要使用更多样的数据增强方式来缓解这些折衷。最近提出的 AutoAugment 方法在清晰精度和鲁棒性方面均得到了最佳表现。

    Jun, 2019