Mar, 2017

深度神经网络的生物启发式防卫对抗攻击技术

PDF
TL;DR应用生物物理学原理进行非线性计算后，我们开发了一种方案来训练深度神经网络以使它们对抗性攻击具有强鲁棒性。该方案生成高度非线性，饱和的神经网络，即使在没有遭受敌对的选择性训练样本的情况下，在 MNIST 上也实现了状态的最先进表现。
neural networksadversarial attacksmnistnonlinear computationinformation geometry
发现论文，激发创造
  • 面向对抗攻击具有抵抗能力的深度学习模型

    通过稳健优化方法探究神经网络对抗攻击的鲁棒性，设计出对抗攻击和训练模型的可靠方法，提出对于一阶对手的安全保证，并得到针对广泛对抗攻击的高鲁棒性网络模型。

    Jun, 2017

  • 深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

    本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

    Feb, 2018

  • 机器学习与密码学在防御对抗攻击中的桥梁

    本文提出了基于加密学的防御机制抵御神经网络的对抗攻击，对于攻击者在灰盒情况下的各种攻击表现出很强的鲁棒性。

    Sep, 2018

  • 贝叶斯神经网络对抗攻击的鲁棒性研究

    本文旨在分析大数据下拟贝叶斯神经网络 (Bayesian Neural Networks) 对抗性攻击 (Adversarial Attack) 的几何特征，证明当数据分布存在退化时，对抗性攻击的易感性增加，并证明拟贝叶斯神经网络后验概率分布的期望梯度为零，因此在 MNIST、Fashion MNIST 和半月形数据集上，拟贝叶斯神经网络可展现出对于基于梯度和基于无梯度攻击的同时鲁棒性和高准确率。

    Jul, 2022

  • 使用对抗网络进行鲁棒性深度学习的直接方法

    该论文提出了一种基于生成对抗网络 (GAN) 框架下的新防御机制来对抗黑盒攻击，在经验上表现良好并能与利用梯度下降的集成对抗训练和对抗训练等最先进的方法媲美。

    May, 2019

  • 通过限制深度神经网络的隐藏空间来进行对抗性防御

    针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

    Apr, 2019

  • 小波技术在对抗鲁棒性方面胜过猴子

    本研究探索如何在神经网络中引入物理学的概念来提高对于对抗噪声的鲁棒性。通过用小波散射变换替换 V1-cortex 并用均匀高斯噪声代替神经随机性，无需对抗训练，就能实现更好的对抗性鲁棒性。

    Apr, 2023

  • 面向对抗样本具鲁棒性的深度神经网络架构

    该研究论文研究了深度神经网络的鲁棒性问题，特别是针对对抗样本的攻击。通过探索神经网络的结构，拓扑结构，预处理和训练策略等方面来提高深度神经网络的抗干扰能力，并且通过引入平滑性惩罚来提高其稳健性。

    Dec, 2014

  • 贝叶斯神经网络对基于梯度的攻击的鲁棒性

    分析了在大数据、超参数限制条件下对贝叶斯神经网络（BNN）的对抗攻击几何特征，并证明了其后验鲁棒性能和基于梯度的对抗攻击是相关的。在 MNIST 和 Fashion MNIST 数据集中，利用 Hamiltonian Monte Carlo 和 Variational Inference 实现了高精度和鲁棒性。

    Feb, 2020

  • 高效的对抗攻击防御

    本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

    Jul, 2017