模式识别中强健对抗训练综述：基础、理论和方法论

Mar, 2022

模式识别中强健对抗训练综述：基础、理论和方法论

A Survey of Robust Adversarial Training in Pattern Recognition: Fundamental, Theory, and Methodologies

Zhuang Qian, Kaizhu Huang, Qiu-Feng Wang, Xu-Yao Zhang

TL;DR本文全面综述了深度神经网络在模式识别中的鲁棒性问题，尤其是针对对抗样本的鲁棒性训练方法，从基础概念、理论模型、算法方法等不同角度进行了系统、结构化的调查和讨论。

Abstract

In the last a few decades, deep neural networks have achieved remarkable success in machine learning, computer vision, and pattern recognition

deep neural networks adversarial examples robust adversarial training pattern recognition machine learning

发现论文，激发创造

对抗训练在对抗鲁棒性方面的最新进展

该研究论文系统地回顾了针对深度学习模型的对抗训练在对抗鲁棒性方面的最新进展，并从三个视角讨论了对抗训练中的泛化问题，同时指出了尚未完全解决的挑战并提出潜在的未来研究方向。

Feb, 2021

野性图案：逆向机器学习崛起十年后

本文综述了过去十年中关于对抗机器学习领域的研究，讨论了目前深度学习算法等机器学习算法的安全性问题，提出了未来研究中的挑战与相应的应对措施和设计。

Dec, 2017

对抗鲁棒学习理论基础

本文提出了一种学习算法，旨在解决对抗性示例对机器学习模型的攻击，并尝试通过设计新的算法和理论分析来提高其鲁棒性和性能。

Jun, 2023

深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

Feb, 2018

对抗攻击与防御：一项调查

文章讨论了不同类型的威胁模型下的敌对攻击，以及近期对抗这些攻击的有效方法和挑战，以提高深度学习算法的鲁棒性。

Sep, 2018

面向对抗攻击具有抵抗能力的深度学习模型

通过稳健优化方法探究神经网络对抗攻击的鲁棒性，设计出对抗攻击和训练模型的可靠方法，提出对于一阶对手的安全保证，并得到针对广泛对抗攻击的高鲁棒性网络模型。

Jun, 2017

风格化对抗防御

利用目标样本的样式和内容信息以及其类边界信息创建对抗性扰动，将其应用于多任务目标并进行深度监督，提取多尺度特征知识以创建最大分离对手，随后提出最大间隔对抗训练方法，最小化源图像与其对手之间的距离，并最大化对手和目标图像之间的距离，证明与最先进的防御相比，我们提出的对抗训练方法表现出强大的鲁棒性，对自然出现的损坏和数据分布变化具有良好的泛化能力，并保留了模型在干净样本上的准确性。

Jul, 2020

人工神经网络稳健训练的分析框架

该研究论文提出了一种正式框架以研究机器学习中敌对示例现象，并利用复分析和全纯性提出了一种针对人工神经网络的稳健学习规则，揭示了该现象与调和函数的联系，并能够解释敌对示例的许多特征，包括可转移性，并为缓解敌对示例的影响铺平道路。

May, 2022

认证鲁棒神经网络：泛化和抗污染性

通过提出综合强健的（HR）训练程序，理论和实验证明了其在对抗错误损失方面具有 SOTA 性能，并克服了在敌对训练中普遍存在的过度拟合问题。

Mar, 2023

对抗鲁棒性的频域视角

针对深度学习系统中的对抗样本存在的挑战，提出了一种基于频率的对抗样本理解方法，并分析了在频率约束下训练鲁棒性模型的性质及其准确性与鲁棒性之间的权衡关系。

Oct, 2021