DAD++：改进的零数据测试时间对抗防御

Sep, 2023

DAD++：改进的零数据测试时间对抗防御

DAD++: Improved Data-free Test Time Adversarial Defense

Gaurav Kumar Nayak, Inder Khatri, Shubham Randive, Ruchit Rawal, Anirban Chakraborty

TL;DR提出了一个基于数据无关性的测试时间对抗防御 (DAD) 框架，包含检测和纠正机制。此外，提出了一种软检测方案 (DAD++) 来进一步提高纠正机制在探测器低自信度情况下的有效性。在多个数据集和网络架构上进行了广泛的实验和分析，证明了所提方法的功效。同时表明，在数据无关或数据有效的应用中，我们的 DAD++ 在各种对抗性攻击下表现出出色的性能，并且干净准确率下降很小。

Abstract

With the increasing deployment of deep neural networks in safety-critical applications such as self-driving cars, medical imaging, anomaly detection, etc., adversarial robustness has become a crucial concern in t

adversarial robustness deep neural networks adversarial attacks test time data-free adversarial defense soft-detection scheme

发现论文，激发创造

深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

Feb, 2018

DataFreeShield：无须训练数据的防御对抗攻击

最近对于对抗鲁棒性的研究依赖于丰富的训练数据，然而在现实生活中，由于安全和隐私问题，训练数据往往会被保持私密，而只有预训练权重对公众可见。因此我们对无数据对抗鲁棒性这一关键问题进行了研究，提出了 DataFreeShield 方法从数据生成和生成数据的对抗性训练两个角度解决该问题，并通过广泛的验证实验展示 DataFreeShield 优于基准方法，证明了该方法为对抗鲁棒性问题提供了首个完全无数据依赖性的解决方案。

Jun, 2024

一种基于掩码的对抗性防御方案

本文介绍了一种新的基于掩码的防御策略（MAD），使用此方法可提高深度神经网络模型对低强度的输入扰动的防御能力，相比现有的防御技术该方法不需要任何附加去噪结构或对模型设计的改变，并且实验证明该方法可以对多种对抗性攻击的深度神经网络模型的防御能力提高 20% 至 90% 的分类精度。

Apr, 2022

DADA: 极低数据量分类的深度对抗数据增强

本文针对数据稀缺问题提出了一种基于生成式对抗网络的深度数据增广技术（DADA），该方法中新的判别器损失函数使得生成的数据样本能够帮助训练，并将 DADA 与传统增广、GAN 等方法比较实验证明，DADA 方法在实际情况中训练深度神经网络的泛化能力上具有更优越的能力.

Aug, 2018

高效的对抗攻击防御

本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

Jul, 2017

自监督方法提高对抗性鲁棒性

本文首次提出了一种自我监督的对抗训练机制，在输入空间中防御对抗性攻击，并提供极大的鲁棒性，可以作为即插即用的解决方案来保护各种视觉系统，包括分类、分割和检测，同时极大降低了未知攻击的成功率。

Jun, 2020

利用测试时间增强和一致性评估进行异常检测

本文提出一种针对神经网络对未知数据的检测算法，名为 TTA-AD，借鉴了一种新的观察方法，实验证明 TTA-AD 在不同高效图像基准数据集下，运行时间比现有基于分类器的算法下降了 60%~90% 且具有可比较或更好的检测性能。

Jun, 2022

使用扩散模型的威胁模型不可知对抗性防御

本文介绍了一种在各种威胁模型下生成鲁棒分类器的方法，该方法利用了随机生成建模的最新进展，并利用条件分布采样。通过在被攻击的图像上添加高斯独立同分布噪声，然后进行预训练扩散过程，该方法表现出了可观的鲁棒性。该鲁棒性在 CIFAR-10 数据集上经过了广泛的实验验证，表明我们的方法在各种威胁模型下优于主要的防御方法。

Jul, 2022

加强对抗性容错性评估的置信度

该研究提出了一种测试方法以识别弱攻击和防御评估，为了增强透明和信心，将攻击单元测试作为未来强度评估的重要组成部分。

Jun, 2022

数据无关模型压缩的双判别器对抗蒸馏

提出了一种名为 Dual Discriminator Adversarial Distillation (DDAD) 的新型无数据的知识蒸馏方法，通过生成样本，训练紧凑的学生网络，使其接近其教师网络，从而在计算机视觉任务中实现了高效的神经网络。

Apr, 2021