Sep, 2023

Dropout 攻击

PDF
TL;DRDROPOUTATTACK 是一种新型的神经网络污染攻击，通过操纵选择性地丢弃神经元来破坏 dropout 算子的性能，导致训练减慢、目标类别预测准确性降低、目标类别的精确度或召回率遭到破坏。在实验中，我们使用 VGG-16 模型在 CIFAR-100 上进行训练，攻击可以将受害类别的精确度降低 34.6%（从 81.7% 降至 47.1%），而模型的准确性没有降低。
发现论文，激发创造
  • 防御性随机失活用于加固对抗攻击下的深度神经网络

    采用防御性抛弃策略来提高神经网络模型的抵御对抗攻击能力，优化测试抛弃率，并通过攻击方与防御方的博弈过程来确定最优策略。相较于随机激活剪枝等其他防御方法，防御性抛弃在 MNIST 数据集上的攻击成功率可以由 100％降至 13.89％。

    Sep, 2018

  • Dropout 并非防止梯度泄漏所必需

    这篇论文研究使用 Dropout 防御梯度反演攻击是否会影响模型效用，发现虽然使用 Dropout 能够一定程度上减少梯度泄露，但其并不能可靠地保护隐私，提出了一种新的 Dropout 反演攻击 (DIA) 来近似原始模型进行攻击，并在四种模型架构和三个不同难度的图像数据集上进行了广泛的系统性评估，最终发现需要结合其他防御措施来保护模型的隐私。

    Aug, 2022

  • 基于干净标签的深度神经网络可传递投毒攻击

    本研究介绍了一种新的 “多面体攻击” 方式，其中毒害图像被设计成包围目标图像特征空间，使用 dropout 方法帮助提高攻击的可转移性，成功率超过 50％，仅污染了训练集的 1％，并可在没有访问受害者网络输出、架构或（在某些情况下）训练数据的情况下实现攻击。

    May, 2019

  • 课程辍学

    本研究提出了一种名为 “课程退火” 的优化策略，通过逐渐在神经网络结构中添加噪声的方式，从而实施一种非常通用的课程方案，进而创造更好的模型。

    Mar, 2017

  • AdvDrop：通过删除信息对 DNN 进行对抗攻击

    该研究基于对 Deep Neural Networks（DNNs）的视觉知觉能力的探究，提出了一种新的对抗攻击方法 AdvDrop，这种新型对抗样本更难以被当前的防御系统防御。

    Aug, 2021

  • 监督学习和半监督学习中的对抗性随机失活

    该研究探讨使用对抗性失活的方法改进神经网络的泛化性能，发现对抗失活增加了神经网络的稀疏度，从而改进了 MNIST 和 CIFAR-10 数据集上的监督和半监督学习任务的泛化性能。

    Jul, 2017

  • 引导式 Dropout

    本研究提出了一种基于引导选择节点赋予权重的智能随机失活方法，在多个数据集上的实验评估证明了该方法在提高深度神经网络泛化能力方面的有效性。

    Dec, 2018

  • 深度神经网络的 Dropout 方法调查

    本文总结了 dropout 方法的历史、各种应用以及当前研究兴趣的领域，同时详细描述了一些重要的提出方法。

    Apr, 2019

  • 预测污染：针对 DNN 模型窃取攻击的防御

    本文介绍了一种主动防御机制，针对深度神经网络模型窃取攻击进行干扰预测的方法，可有效应对多种难缠的数据集和攻击类型，并且表现出更优越的效果。

    Jun, 2019

  • 数据高效后门攻击

    本文提出了一种基于过滤和更新策略的深度神经网络反向攻击样本优化方法，从而提高了毒化数据的效率。通过在 CIFAR-10 和 ImageNet-10 数据集上的实验结果验证了该方法的有效性。

    Apr, 2022