随机化很重要：如何抵御强大的对抗性攻击

Feb, 2020

随机化很重要：如何抵御强大的对抗性攻击

Randomization matters. How to defend against strong adversarial attacks

Rafael Pinot, Raphael Ettedgui, Geovani Rizk, Yann Chevaleyre, Jamal Atif

TL;DR本文采用博弈论视角研究分类器对抗攻击的鲁棒性，证明了在确定性情况下不存在一个能保证最优鲁棒性的纳什均衡点，并提出了采用随机化方法构建具有鲁棒性的分类器的算法，实验结果验证了该方法的有效性。

Abstract

Is there a classifier that ensures optimal robustness against all adversarial attacks? This paper answers this question by adopting a game-theoretic point of view. We show that adversarial attacks and defenses form an infinite zero-sum game where classical results (e.g. Sion theorem) d

adversarial attacks game theory nash equilibrium randomized classifier adversarial training

发现论文，激发创造

针对多个分类器的鲁棒性攻击

设计最优敌对噪声算法是一项具有挑战性的任务，本文将其表述为学习器和对手之间的一种两方零和博弈，需要利用最佳响应神经网络生成随机化攻击来计算纳什均衡，本文在多个分类任务中演示了该方法的实际有效性。

Jun, 2019

随机分类器对抗性样本的鲁棒性

本文研究了对抗攻击的鲁棒性理论，聚焦于随机化分类器并通过统计学习理论和信息论提供了其行为的彻底分析。我们引入了随机化分类器的新鲁棒性概念，在此基础上进行了两项新的贡献：提出了一种新的随机化分类器对抗泛化间隙的上界限和对其进行了一种简单而有效的噪声注入方法来设计鲁棒的随机化分类器。我们还在 CIFAR-10 和 CIFAR-100 标准图像数据集上使用深度神经网络的实验结果证实了我们的发现。

Feb, 2021

对抗鲁棒性的随机化：善、恶与丑

本研究探讨了深度神经网络面临的对抗攻击问题，提出了随机分类器作为确定性分类器的强大替代品，并且通过实验证明，集成分类器比混合分类器更具抗干扰性。

Feb, 2023

对抗样本博弈中的混合纳什均衡

从博弈论的角度解决对抗性样本的问题，研究攻击者和分类器组成的零和博弈中混合纳什均衡的存在问题，提出了一种优化算法来学习近似实现该博弈价值的分类器混合策略。

Feb, 2021

玩转通用对抗扰动游戏

构建针对普遍对抗性扰动所鲁棒的分类器的零和博弈训练方法，可在多个图像分类数据集上保证分类器的鲁棒性和多用途性。

Sep, 2018

随机平滑在受攻击环境下的实际效果如何？

本研究发现随机平滑在理论认证与实践中保护分类器免受黑盒攻击的设置存在差异，对 RS 进行攻击会导致认证的鲁棒性下降且分类器准确度降低。

Apr, 2022

对于随机平滑分类器的严格对抗鲁棒性证明

采用输入随机化生成的分类器的集合可以具有很强的鲁棒性，该方法可扩展到更广泛的分布，特别是在离散情况下保证敌对的鲁棒性，并给出了相应的算法，此外，该研究有助于通过假设分类器的函数类来提高保证，并且具有图像和分子数据集上的实际应用。

Jun, 2019

分类器对于对抗扰动的鲁棒性分析

本论文分析了深层网络的一个有趣现象，即它们对于对抗性扰动的不稳定性，并提出了一个分析分类器鲁棒性的理论框架，并且为对抗性扰动的鲁棒性建立了一个上限。具体而言，我们建立了分类器对于对抗性扰动的鲁棒性的一个通用上限并用一些线性和二次分类器的例子说明了所获得的上限。我们的结果表明，在涉及小区分能力的任务中，所有选定的分类器将不会对于对抗性扰动产生鲁棒性，即使达到了较高的准确率。

Feb, 2015

对抗性攻击如何干扰表面稳定准确的分类器

通过对高维度输入数据的实践系统进行观察，我们展示了对于那些容易构建的对抗性攻击及其对大多数模型的威胁性，以及随机扰动的鲁棒性同时易受影响的基本特性，证实了这一现象。然而，令人惊讶的是，即使对于分类器决策边界与训练和测试数据之间只有很小的边距，也很难通过随机取样的扰动来检测到对抗性示例，因此需要更严格的对抗性训练。

Sep, 2023

任何分类器的对抗性易受攻击性

本文研究了对抗扰动现象，并推导了任何分类函数的鲁棒性的基本上界，以及证明了存在跨不同分类器传递的具有小风险的对抗扰动。研究显示了生成模型的关键属性，如平滑性和潜在空间的维度，并提供了信息量大的鲁棒性基线。

Feb, 2018