通过联合分类和多个显式检测类别提高对抗鲁棒性

Oct, 2022

通过联合分类和多个显式检测类别提高对抗鲁棒性

Improving Adversarial Robustness via Joint Classification and Multiple Explicit Detection Classes

Sina Baharlouei, Fatemeh Sheikholeslami, Meisam Razaviyayn, Zico Kolter

TL;DR通过采用正则化方法和训练方法解决加入多个 “弃权” 类别导致 “模型退化” 的问题，进一步扩展了联合鲁棒分类 - 检测的可证明框架，一定程度上提高了多种选择下的标准与鲁棒验证准确度的折衷结果，胜过现有算法。

Abstract

This work concerns the development of deep networks that are certifiably robust to adversarial attacks. Joint robust classification-detection was recently introduced as a →

deep networks certified defense mechanism adversarial attacks multiple abstain classes regularization approach

发现论文，激发创造

安全玩法：具备放弃选项的对抗性鲁棒性

本文探讨了一种适用于分类器在对抗样本上放弃输出任何类别 (即通过放弃输出任何类别来实现对抗鲁棒性) 的情况下的对抗鲁棒性问题，提出了一种新的带有放弃选项的对抗鲁棒性目标函数，并提出了一个基于该目标函数的基准，最后提出了一种 Combined Abstention Robustness Learning (CARL) 方法来实现分类器及其应该放弃输出的输入空间的区域的联合学习。通过对 PGD 和 DeepFool 等攻击的评估，得出使用 CARL 训练的分类器比基准分类器更精确、更鲁棒、更有效。

Nov, 2019

物体检测中的类别感知鲁棒性对抗训练

本文提出一种新颖的、针对目标检测任务的类感知鲁棒性对抗训练范式，旨在提高目标检测模型的鲁棒性，并通过广泛实验验证了该方法的有效性。

Mar, 2021

对抗训练的分割原则

对抗性示例的存在揭示了深度神经网络的基本弱点。我们的主要贡献是一种通用方法，使分类器具有显着的鲁棒性，而其自然准确性的降低仅仅是微小或可忽略的。

Oct, 2023

神经网络对抗鲁棒性的有用分类法

深度学习领域的对抗攻击和防御是目前研究的活跃领域。本文针对防御方法进行分类，提出了不同的分类方法：通过增加特征向量的类内紧凑性和类间分隔性来提高对抗鲁棒性，减小或移除非鲁棒图像特征来提高对抗鲁棒性。通过这种重新构架话题的方式，提供了新的视角，深入探讨使网络变得更加强健的潜在因素，启发了更多的解决方案。此外，文献中有一些关于对抗防御成本问题和鲁棒性与准确性之间的权衡的论述，但我们提出的分类方法可以解决这些问题。本文提出了几项挑战，以此推动深度学习研究的进一步发展。

Oct, 2019

探索健壮神经网络的误分类以增强对抗攻击

针对当前神经网络抵御对抗攻击的能力较弱的情况，提出了一种新的损失函数，从而提高了 19 种不同状态下的神经网络的抗攻击能力。同时发现目前不良攻击行为只能诱发少量不同类别的误分类，过于自信或不自信都会影响对模型鲁棒性的准确评估。

May, 2021

使用集成网络和噪声层实现鲁棒深度学习

本篇论文提出了一种深度学习方法，可以在图像分类类型的网络中保护并提高其鲁棒性，同时实现了准确性和鲁棒性的平衡，通过实验验证了该方法的有效性和鲁棒性保障。

Jul, 2020

通过专家集成的方法实现在对抗样本下的鲁棒性

通过使用多个专家的集合，其中专业按混淆矩阵定义，我们发现在存在对抗实例的情况下，专家集合能更好地识别和拒绝愚弄实例，通过拒绝机制使系统更加鲁棒，而不是试图以任何代价正确地对抗其进行分类。

Feb, 2017

对抗鲁棒性基准测试

本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

Dec, 2019

生成式分类器对抗攻击的鲁棒性是否更佳？

本文旨在探究深度贝叶斯分类器，该分类器利用有条件的深度生成模型来改善传统朴素贝叶斯方法，并针对对抗性样本开发检测方法，试验结果表明深度贝叶斯分类器具有更好的鲁棒性，而检测方法可有效抵御多种攻击。

Feb, 2018

深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

Feb, 2018