Oct, 2017

DeepSafe: 基于数据驱动的神经网络对抗鲁棒性检测方法

PDF
TL;DR本文提出了一种利用聚类方法自动识别神经网络输入空间安全区域的方法，并借助验证技术来确认这些区域是否安全或提供不安全的反例，并引入了目标鲁棒性的概念，以确保神经网络不会将任何输入映射到目标标签，利用 MNIST 数据集以及控制下一代无人机避撞系统的神经网络实施的空中碰撞预防系统（ACAS Xu）进行验证。
deep neural networksadversarial perturbationsrobustnesssafe regionsverification techniques
发现论文，激发创造
  • 深度神经网络的安全验证

    本研究提出一种基于 Satisfiability Modulo Theory (SMT) 的新型自动化验证框架，旨在保证深度神经网络对于图像操作的安全性，能够发现对于给定操作范围和家族，对抗性样本是否存在，同时比较现有的相关技术。

    Oct, 2016

  • 深度神经网络特征引导的黑箱安全测试

    本研究提出一种基于特征导引的黑盒攻击方法，可以应用于深度神经网络的安全测试，无需深入的网络知识，在人类视觉系统指导下对像素分布进行检测，并利用蒙特卡罗树搜索逐步探索游戏状态空间以寻找对抗性样本，当前方法在安全关键应用如自动驾驶车辆中的交通标志识别中具有广泛的应用前景。

    Oct, 2017

  • 深度强化学习的认证对抗鲁棒性

    本文研究基于深度神经网络的自主决策系统的安全性，提出了一种基于认证对抗鲁棒性的在线防御机制，该机制计算执行过程中状态 - 动作值的保证下限，以在可能存在对手或噪声导致输入空间最差情况偏离选择最佳行动，在行人碰撞回避场景和一个经典控制任务中，该方法显示出提高对噪声和对手的鲁棒性。

    Oct, 2019

  • 神经网络的有效形式安全分析

    本文提出了一种有效的方法来严格检查神经网络的不同安全属性，可以检查不同的安全属性并找到具体的反例，比现有方法的性能提高了数个数量级，这种方法也有助于提高神经网络的可解释性并指导训练更加稳健的神经网络。

    Sep, 2018

  • 探索证明深度神经网络的对抗鲁棒性

    本研究论文论述了如何使用深度神经网络验证自动驾驶汽车的对抗鲁棒性问题，即证明网络的正确性以及研究自动控制器难度与机器学习的关系。

    Sep, 2017

  • 深度学习在机器人视觉中安全吗？针对 iCub 人形机器人的对抗样例

    该论文使用经过策划的改变的图像，即对人眼难以察觉的对抗性噪声，来测试展现出优异性能的深度神经网络在图像分类中是否存在漏洞，并提出了一种基于拒绝分类的计算方法来减轻这种威胁，同时通过经验分析更清晰地理解了深度学习算法的平滑性假设，并商讨了该研究的主要局限和有前途的研究方向。

    Aug, 2017

  • SafetyNet: 鲁棒地检测并拒绝对抗样本

    通过构建 SafetyNet 架构，并应用于 SceneProof 应用，我们提出了一种新的方法来对抗深度神经网络中的对抗攻击。实验结果表明，我们的方法能够难以被当前已知的攻击方法攻破。

    Apr, 2017

  • 面向对抗攻击具有抵抗能力的深度学习模型

    通过稳健优化方法探究神经网络对抗攻击的鲁棒性，设计出对抗攻击和训练模型的可靠方法，提出对于一阶对手的安全保证，并得到针对广泛对抗攻击的高鲁棒性网络模型。

    Jun, 2017

  • 深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

    本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

    Feb, 2018

  • 基于游戏的深度神经网络近似验证及可证明保证

    通过离散化输入空间，使用有限优化来逼近点称健壮性的两种变体问题，并证明误差有界，进一步通过解决二人博弈问题的方式解决这些优化问题，该论文提供了一种框架来评估神经网络的点称健壮性。

    Jul, 2018