Apr, 2021

基于随机噪声的防御：对抗查询黑盒攻击

PDF
TL;DR本文研究一种轻量级防御方法 ——Random Noise Defense (RND) 来对抗基于查询的黑盒攻击，并在理论和实验上验证了其有效性。此外，通过将 RND 与高斯增强精调相结合（RND-GF），可以在保持良好的清洁数据准确性的情况下，获得更好的折衷和更大的防御性能。
query-based black-box attacksrandom noise defenseadaptive attacksgaussian augmentation fine-tuningadversarial robustness
发现论文，激发创造
  • 理解随机特征防御对基于查询的对抗攻击的鲁棒性

    通过在中间层的模型中添加随机噪声，我们提出了一种简单轻量级的防御方法，可以有效增强模型对黑盒攻击的鲁棒性，并且对准确率影响较小。

    Oct, 2023

  • 弥合差距：在基于查询的攻击中实现更好的准确性和鲁棒性权衡

    在缓解基于查询的攻击时，我们的方法能够有效建立鲁棒性和准确性之间的权衡，通过针对低置信度输入激活专用防御措施，从而提供更好的鲁棒性和准确性的权衡，无需训练。

    Dec, 2023

  • 加性噪声认证对抗鲁棒性

    本文提出一种可扩展的用于构造对抗样本的方法，通过建立抵抗对抗扰动和加法噪声之间的联系，提出了一种训练策略，并在 MNIST 等数据集上进行了评估。

    Sep, 2018

  • 图神经网络的简单而又相对有效的防御方法

    图神经网络（GNN）是处理图结构数据的主要方法，但存在对小的对抗性扰动脆弱性的问题。本文介绍了一种新的防御方法 NoisyGNNs，它通过在模型架构中引入噪声来提高 GNN 的鲁棒性。通过理论分析和实证评估，揭示了噪声注入和 GNN 鲁棒性增强之间的关联，并展示了 NoisyGNN 在节点分类任务上的卓越性能。这种方法是模型无关的，可与不同的 GNN 架构集成，与现有的防御技术结合使用可以进一步提高对抗性防御效果。

    Feb, 2024

  • 噪声增强的数据中心健壮机器学习效率

    研究数据为中心的机器学习，通过引入多种噪声，提出了一种高效的数据增强方案，以提高黑盒测试环境下模型的鲁棒性。该方法基于轻量级算法构建，经过全面的评估，证明了在计算成本和鲁棒性增强方面的有效性。作者还分享了他们从实验中获得的数据为中心的鲁棒机器学习的见解。

    Mar, 2022

  • 学习生成多攻击鲁棒性噪声

    提出一种新的元学习框架，利用 Meta Noise Generator（MNG）生成多种类型扰动下的优化噪声，提高模型的鲁棒性。通过使用 MNG 生成的样本进行训练，在多种扰动下强制标签一致性。在各种数据集和广泛的扰动下验证了我们方案培训的模型的鲁棒性，表明它具有显着的优越性，计算成本微不足道。

    Jun, 2020

  • 机器学习需要自己的随机性标准：随机平滑和基于伪随机数生成器的攻击

    本文考虑攻击者是否可以只利用制造机器学习模型所依赖的随机性来破坏模型的安全性， 发现攻击者能够利用 Randomised Smoothing，一种用于提高模型抵抗对抗性攻击和量化不确定性的方法，背后基于对高斯噪声采样，来进行欺骗性认证，而且攻击只需要更改极小的随机数。因此，作者提出更新 NIST 的随机数测试准则，以使其更适用于安全和关键性的机器学习应用。

    Jun, 2023

  • 通过数据集随机化中和对抗性攻击

    本文通过使用超空间投影来提出了一种新的针对图像分类器的通用防御机制，可以提高深度学习模型对抗攻击的鲁棒性，实验结果显示通过优化攻击和生成对抗攻击测试其在 MNIST 数据集上的成功率可以至少减少 89% 和 78%。

    Jun, 2023

  • 通过随机离散化防御白盒对抗攻击

    本文提出采用随机离散化和高斯噪声注入的简单有效防御策略，可以显著提高对抗攻击下的图像分类器准确性，相比于其他对抗训练，以及 NIPS 2017 中获胜的防御方法，在 ImageNet 数据集上表现更优。

    Mar, 2019

  • 参数噪声注入：可训练随机化提高深度神经网络对抗性攻击稳健性

    本文提出了一种 Parametric-Noise Injection (PNI) 技术，使用可训练的高斯噪声注入到神经网络的不同层中，解决 min-max 优化问题，通过对抗训练来提高网络的鲁棒性，实验表明该方法能有效提高对抗攻击下的网络鲁棒性。

    Nov, 2018