评估深度神经网络的对抗性鲁棒性的几何方法

MMOct, 2023

评估深度神经网络的对抗性鲁棒性的几何方法

A Geometrical Approach to Evaluate the Adversarial Robustness of Deep Neural Networks

Yang Wang, Bo Dong, Ke Xu, Haiyin Piao, Yufei Ding...

TL;DR我们提出了一种攻击依赖的度量指标，用于度量在特定输入上的深度神经网络的对抗鲁棒性，验证了该指标对不同对抗性攻击的有效性和泛化性，与以前的度量指标相比，我们的指标是高效且有效的。

Abstract

deep neural networks (DNNs) are widely used for computer vision tasks. However, it has been shown that deep models are vulnerable to adversarial attacks, i.e., their performances drop when imperceptible perturbations are made to the original inputs, which may further degrade the follow

deep neural networks adversarial attacks metrics adversarial converging time score imagenet dataset

发现论文，激发创造

评估神经网络的稳健性：一种极值理论方法

本文提出一种基于局部 Lipschitz 常数估计问题的鲁棒性分析的理论，使用极值理论来高效评估，得到了一个新的鲁棒性指标 CLEVER，该指标不依赖于攻击方法且适用于任何神经网络分类器。

Jan, 2018

基于感知度量的任务通用性对抗攻击

提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

Nov, 2018

神经网络鲁棒性解释和评估

该研究提出了一种定量指标来评估神经网络模型的内在稳健性，并通过损失可视化的方式解释了对抗攻击和防御机制。该指标具有快速生成、结构和参数规模无关、可靠性高的优点，并提供了一种相对于不同测试设置不变的评估方法。

May, 2019

CAAD 2018: 迭代性集成对抗攻击

本文提出了一种针对图像分类器集合的迭代式对抗攻击方法，通过此方法，在 CAAD 2018 针对性对抗攻击竞赛中获得第五名，该方法提高了黑匣子对抗攻击的成功率。

Nov, 2018

探索对抗前沿：通过对抗超体积量化健壮性

通过提出一种新的测量指标 —— 对抗超体积（adversarial hypervolume），该研究验证了该指标对于揭示深度学习模型鲁棒性中微妙差异的有效性，为当前和未来的防御模型的韧性评估和基准制定提供了标准。

Mar, 2024

对抗性对齐：打破攻击强度和其对人类感知的相关性之间的权衡

通过研究和比较多种神经网络，本文发现随着图片识别准确度的提高，对抗性攻击虽然越来越容易使模型改变分类决策，但同时攻击的特征也越来越远离与人类视觉识别相关的特征，即使人工以同样方式造成的影响。而通过神经协调器网络的训练，可以使神经网络更加接近人类视觉识别应有模式，从而提高对抗性攻击下的鲁棒性。

Jun, 2023

一种基于分类引导的对神经机器翻译的对抗性攻击方法

我们提出了 ACT，一种新的针对 NMT 系统的对抗性攻击框架，通过一个分类器对其进行指导，以改变翻译的类别而非仅仅翻译质量，该攻击具有更大的影响力。

Aug, 2023

使用约束测量神经网络的健壮性

提出了度量神经网络抗干扰能力的度量方法，并设计了一种基于线性规划方法的算法来近似度量方法。该算法对比现有算法生成了更加准确的度量估计，并且可以被用来提高神经网络的稳健性能。

May, 2016

大规模神经网络几何鲁棒性的验证

研究通过 GeoRobust 在深度神经网络上实现几何变换的鲁棒性分析，并提供了基于 Lipschitz 理论的最坏情况变换证明保证。我们还发现，在 ImageNet 分类器上，增加深度比增加宽度更有益于提高网络的几何鲁棒性。

Jan, 2023

神经网络潜在表征中的对抗性机器学习

通过信息论的背景将此问题转化为信息失真和鲁棒性的两个新度量，我们对分布式深度神经网络（DNNs）对抗行为的鲁棒性进行了严格分析，并通过考虑 6 种不同的 DNN 架构、6 种不同的分布式 DNN 方法和对 ImageNet-1K 数据集进行 10 种不同的对抗攻击的广泛实验分析来验证我们的理论发现。实验结果支持我们的理论发现，显示出压缩的隐含表示可以在最佳情况下将对抗性攻击的成功率降低 88％，平均降低 57％，与对输入空间的攻击相比。

Sep, 2023