局部对抗训练以增加图像分类的准确性和鲁棒性

KDDSep, 2019

局部对抗训练以增加图像分类的准确性和鲁棒性

Localized Adversarial Training for Increased Accuracy and Robustness in Image Classification

Eitan Rothberg, Tingting Chen, Luo Jie, Hao Ji

TL;DR本文提出一种新的局部对抗性攻击方法用来生成对抗性样本，进而通过在训练集中包含局部对抗性图像来提高分类器鲁棒性和对抗样本的识别率。在 MNIST 和 CIFAR-10 数据集上的评估结果表明，该训练算法可以降低自然图像的准确度损失，并提高抵抗对抗性输入的容忍度。

Abstract

Today's state-of-the-art image classifiers fail to correctly classify carefully manipulated adversarial images. In this work, we develop a new, localized adversarial attack that generates adversarial examples by imperceptibly altering the backgrounds of normal images. We first use this

adversarial images neural networks training technique localized adversarial training robustness

发现论文，激发创造

可转移的对抗性攻击图像篡改定位

本文提出了一种对现有数字图像篡改定位算法进行真实世界应用安全性评估的对抗性攻击方案，通过基于优化和梯度的敌对示例的白盒和黑盒攻击来揭示这种篡改定位器的可靠性，从而准确预测篡改区域并保持高视觉质量的同时，大大降低了定位精度。

Sep, 2023

LaVAN：局部可见对抗噪声

本研究探讨已知被限制在小的局部图像噪声中的对抗性攻击，此噪声占图像像素的 2%，未覆盖图像的主要对象，并可在不同的图像及位置转移，可成功地欺骗一种高性能的 Inception v3 模型。

Jan, 2018

针对优化位置的对抗性贴片的对抗训练

提出了一种可通过物理方式应用于图像中的明显但具有对抗性的矩形贴片，并利用对抗训练的方式来增强深度神经网络对对抗贴片的鲁棒性，这种训练不会降低网络的分类准确率。

May, 2020

局部线性化对抗鲁棒性

本文介绍了一种新型的正则化方法，该正则化方法鼓励在训练数据附近的损失行为呈线性，从而惩罚梯度混淆并鼓励鲁棒性。通过在 CIFAR-10 和 ImageNet 上的大量实验，我们展示了使用我们的正则化方法训练的模型避免了梯度混淆，并且比对抗训练能够更快地训练。使用这种正则化方法，我们在 ImageNet 上取得了 47% 的对抗准确率和 8/255 的和 CIFAR-10 同样的表现。

Jul, 2019

对抗样本是噪声下测试误差的自然结果

该研究提供了实证和理论证据表明对抗鲁棒性和图像损坏鲁棒性研究项目之间存在紧密联系，从而建议未来的对抗性防御应该考虑评估它们的方法对分布转移的鲁棒性。

Jan, 2019

废物利用：通过对抗样本抵抗对抗样本

通过在预先训练好的外部模型上找到敌对样本，我们将有害的攻击过程转化为有用的防御机制，并且我们的防御方法比先前的方法更为强大和经济。

Nov, 2019

实例自适应对抗训练：神经网络中更好的准确性和权衡

本文提出了一种实例自适应对抗训练技术，通过在每个训练样本周围施加特定的扰动边缘来实现更好的泛化能力和测试准确性。

Oct, 2019

攻击对抗性攻击作为一种防御

通过对敌对学习及攻击的深入探究，我们发现在敌对性训练的模型中，用微小的随机噪声扰动部分攻击样本能够破坏其误导性预测，为此我们提出了一种有效的防御方法，是通过制造更加有效的防御扰动方法，利用敌对训练降低了地面真实的局部 Lipschitzness，同时攻击所有类别，将误导的预测转换为正确的预测，这种方法在经验实验证明有效。

Jun, 2021

利用对抗擦除和伪标签改进弱监督目标定位

该论文研究了一种弱监督对象定位的框架，通过仅使用图像和图像级别的类标签训练神经网络，旨在训练出能够同时预测对象类别和位置的神经网络，并通过采用对抗抹除和伪标签来提高定位准确性。在 ILSVRC-2012、CUB-200-2011 和 PASCAL VOC 2012 三个公开数据集上的实验结果表明，该方法在所有评估指标上都优于先前的最先进方法。

Apr, 2024

通过对抗性训练提高机器学习的稳健性

研究了机器学习的鲁棒性，使用集中式和分散式环境进行对抗训练，结果显示比现有研究提高了 18.41% 和 47% 的准确性，并提出了独立同分布和非独立同分布数据的 IID 数据共享方法，可提高自然准确性和鲁棒准确性。

Sep, 2023