Feb, 2017

DeepCloak: 遮挡深度神经网络模型以增强对抗性样本的鲁棒性

PDF
TL;DR本研究提出一种名为 DeepCloak 的防御性机制，通过识别和删除深度神经网络模型中多余的特征，限制攻击者生成对抗样本所需使用的维度，增强模型的抗干扰性能。实验结果表明，DeepCloak 能够提高最先进的深度神经网络模型对抗样本的性能。
deep neural networksadversarial samplesdeepcloakdefensive mechanismrobustness
发现论文，激发创造
  • AdvCloak: 面向隐私保护的定制对抗隐蔽技术

    基于生成模型的隐私保护创新框架 AdvCloak 通过自动定制类别级对抗性遮蔽模型，在保持图像级自然性的同时提供改进的特征级泛化能力，进而解决社交媒体中广泛共享面部图像所带来的隐私问题。通过两阶段训练策略，这一框架不仅能够个性化适应独特的个人面部特征，还能提高面对个体间的面部差异时的特征级概括能力，并结合几种通用的几何建模方法来更好地描述源身份的特征子空间。此外，对常见和名人数据集进行的广泛定量和定性评估结果表明，AdvCloak 在效率和效果方面优于现有的最先进方法。

    Dec, 2023

  • 具有对抗鲁棒性的深度神经网络及其在恶意软件检测中的应用

    提出了一种新的对抗样本解决方案，该方案通过随机破坏样本中的特征，阻止攻击者构建有影响力的对抗样本，从而显著提高深度神经网络对抗样本的鲁棒性，同时保持高分类准确性。

    Oct, 2016

  • 高效的对抗攻击防御

    本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

    Jul, 2017

  • 深度学习在对抗环境中的局限性

    本文介绍了一种基于对深度神经网络输入输出映射的精确理解的算法，用于制造可以轻易被误分类的针对深度神经网络的对抗样本，通过计算不同类型的样本之间的硬度度量对不同的类型的样本抗击抗性进行了评估，并提出了防御针对性攻击的初步方法。

    Nov, 2015

  • 深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

    本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

    Feb, 2018

  • 检测来自伪像的对抗性样本

    本文介绍了一种利用深度学习神经网络中 Bayesian 不确定性估计和密度估计的方法，可以实现对于对抗样本的检测，具有很好的泛化性能，并在标准分类任务上取得了 85-93% 的 ROC-AUC 表现。

    Mar, 2017

  • 一种基于掩码的对抗性防御方案

    本文介绍了一种新的基于掩码的防御策略（MAD），使用此方法可提高深度神经网络模型对低强度的输入扰动的防御能力，相比现有的防御技术该方法不需要任何附加去噪结构或对模型设计的改变，并且实验证明该方法可以对多种对抗性攻击的深度神经网络模型的防御能力提高 20% 至 90% 的分类精度。

    Apr, 2022

  • 深度神经网络对未知对抗攻击的健壮性评估

    通过分析正常和对抗攻击样本的深度神经网络表示之间的差异，研究了对抗攻击的鲁棒性和现有防御机制的普适性，并揭示了 L2 和 Linfinity 范数之间的显著差异。

    Aug, 2023

  • 使用自适应虚假信息防御模型窃取攻击

    该研究提出了采用自适应误导的方法抵御深度神经网络模型盗窃攻击，并针对现有所有模型盗窃攻击均使用 Out-Of-Distribution 输入进行了阐述，提出选择性错误预测的方法以显著降低攻击者克隆模型的准确率，同时最小化对良性用户准确率的影响，这种防御具有更好的安全性和准确度平衡，并且计算开销最小。

    Nov, 2019

  • Bluff: 深度神经网络的交互式对抗攻击解密

    Bluff 是一个交互式视觉系统，用于可视化、表征和破解基于视觉的神经网络遭受的对抗性攻击，以揭示对抗性攻击对模型造成伤害的机制。

    Sep, 2020