探索对抗前沿：通过对抗超体积量化健壮性

Mar, 2024

探索对抗前沿：通过对抗超体积量化健壮性

Exploring the Adversarial Frontier: Quantifying Robustness via Adversarial Hypervolume

Ping Guo, Cheng Gong, Xi Lin, Zhiyuan Yang, Qingfu Zhang

TL;DR通过提出一种新的测量指标 —— 对抗超体积（adversarial hypervolume），该研究验证了该指标对于揭示深度学习模型鲁棒性中微妙差异的有效性，为当前和未来的防御模型的韧性评估和基准制定提供了标准。

Abstract

The escalating threat of adversarial attacks on deep learning models, particularly in security-critical fields, has underscored the need for robust deep learning systems. Conventional →

adversarial attacks deep learning models robustness evaluations adversarial hypervolume defense mechanisms

发现论文，激发创造

深度学习模型的整体对抗鲁棒性

该研究论文综述了深度学习模型对抗鲁棒性的研究主题和基本原则，包括攻击、防御、验证和新应用。

Feb, 2022

对抗鲁棒性基准测试

本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

Dec, 2019

衡量样本级对抗性脆弱性及其在构建可信系统中的实用综合方法

本文通过综合度量方法，结合高频特征和样本距离决策边界两个因素来可靠地估计样本的对抗脆弱性，实现了可以向人类警示测试样本高概率被错误分类的系统，并验证了该综合度量方法在样本筛选时优于随机和基于距离的方法。

May, 2022

神经网络鲁棒性解释和评估

该研究提出了一种定量指标来评估神经网络模型的内在稳健性，并通过损失可视化的方式解释了对抗攻击和防御机制。该指标具有快速生成、结构和参数规模无关、可靠性高的优点，并提供了一种相对于不同测试设置不变的评估方法。

May, 2019

对抗性严重性的分层评估

本文介绍了在 Adversarial Robustness 领域中，量化 adversarial noise 的影响的新概念 ——Adversarial Severity，并提出了使用基于 Hierarchical Attacks 的新型防护方法和 Hierarchical Curriculum Training 训练方法来提高深度模型的 Robustness 和减轻所有攻击的 severity。实验表明，这种防护方法可以使深度模型的 Robustness 提高 1.85％，平均减少攻击的 severity 0.17。

Aug, 2021

评估语义分割模型的对抗鲁棒性

该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。

Jun, 2023

深度学习中对抗鲁棒性的机遇与挑战：综述

本篇研究通过分类对抗性攻击和防御方法，提出三类半定界数理优化问题，即对抗 (再) 训练、正则化方法和认证防御，并调查了最近的研究成果和挑战以及展望未来的发展。

Jul, 2020

对抗性样本的（不）可避免性

该研究提出了一个确定深度学习模型标签更改是否合理的框架，并且定义了一个自适应的鲁棒性损失，使用导出的经验公式，开发了相应的数据增强框架和评估方法，证明了其对确定性标签下的一阶最近邻分类的维持一致性，并提供了实证评估结果。

Jun, 2021

加强深度度量学习的对抗鲁棒性

本文提出了一种基于 Hardness Manipulation 和 Gradual Adversary 的深度度量学习模型的对抗鲁棒性方法，并通过实验证明其在鲁棒性、训练效率和性能方面均优于现有防御方案。

Mar, 2022

采用深度度量学习改进对抗鲁棒性，提高对敏感性与不变性攻击的防御能力

利用度量学习将对抗正则化框架建模为最优传输问题，可以提高模型对不变扰动和敏感性攻击的防御，从而在对抗样本防御方面具有普遍适用性。

Nov, 2022