ICCVAug, 2017

深度学习在机器人视觉中安全吗？针对 iCub 人形机器人的对抗样例

PDF
TL;DR该论文使用经过策划的改变的图像，即对人眼难以察觉的对抗性噪声，来测试展现出优异性能的深度神经网络在图像分类中是否存在漏洞，并提出了一种基于拒绝分类的计算方法来减轻这种威胁，同时通过经验分析更清晰地理解了深度学习算法的平滑性假设，并商讨了该研究的主要局限和有前途的研究方向。
deep neural networksadversarial examplescomputer visionsafety propertieslearning algorithms
发现论文，激发创造
  • 深度学习中的对抗性示例：攻击与防御

    本文研究深度学习中的对抗样本问题，总结了生成对抗样本的方法，提出了对抗样本的应用分类，并探讨了对抗样本的攻击和防御策略以及面临的挑战和潜在解决方案。

    Dec, 2017

  • 计算机视觉中深度学习对抗攻击威胁综述

    本文综述了计算机视觉领域深度学习中的对抗攻击及其防御方法，包括攻击的设计、存在性和实际应用的评估，旨在提供更全面的研究方向展望及其实际意义。

    Jan, 2018

  • 深度学习在对抗环境中的局限性

    本文介绍了一种基于对深度神经网络输入输出映射的精确理解的算法，用于制造可以轻易被误分类的针对深度神经网络的对抗样本，通过计算不同类型的样本之间的硬度度量对不同的类型的样本抗击抗性进行了评估，并提出了防御针对性攻击的初步方法。

    Nov, 2015

  • DeepSafe: 基于数据驱动的神经网络对抗鲁棒性检测方法

    本文提出了一种利用聚类方法自动识别神经网络输入空间安全区域的方法，并借助验证技术来确认这些区域是否安全或提供不安全的反例，并引入了目标鲁棒性的概念，以确保神经网络不会将任何输入映射到目标标签，利用 MNIST 数据集以及控制下一代无人机避撞系统的神经网络实施的空中碰撞预防系统（ACAS Xu）进行验证。

    Oct, 2017

  • 深度学习医学图像分析系统的对抗性攻击研究

    医学深度学习系统可以被巧妙地构造对抗性例子攻击破坏，难以在实际临床设置中应用，本文发现医学深度学习模型对于对抗攻击比对自然图像模型更脆弱，但医学对抗攻击可以通过简单的检测器容易检测出来，这些发现可作为更可解释和安全的医学深度学习系统设计的依据。

    Jul, 2019

  • 对抗攻击与防御：一项调查

    文章讨论了不同类型的威胁模型下的敌对攻击，以及近期对抗这些攻击的有效方法和挑战，以提高深度学习算法的鲁棒性。

    Sep, 2018

  • 使用对抗网络进行鲁棒性深度学习的直接方法

    该论文提出了一种基于生成对抗网络 (GAN) 框架下的新防御机制来对抗黑盒攻击，在经验上表现良好并能与利用梯度下降的集成对抗训练和对抗训练等最先进的方法媲美。

    May, 2019

  • 探索证明深度神经网络的对抗鲁棒性

    本研究论文论述了如何使用深度神经网络验证自动驾驶汽车的对抗鲁棒性问题，即证明网络的正确性以及研究自动控制器难度与机器学习的关系。

    Sep, 2017

  • 深度学习如何看世界：对抗攻击和防御调查

    本文总结了最新的对抗攻击技术，利用现代防御策略对其进行分类，并概述视觉转换进展、反对抗设置中使用的数据集及度量标准，并在不同攻击下比较最新成果，最终确定了该领域的开放问题。

    May, 2023

  • 2D 和 3D 深度学习模型鲁棒性和安全性对抗性攻击调查

    通过构建威胁模型、综述 2D 和 3D 对抗性攻击的最新进展以及扩展对物理对抗性攻击的研究，本文探究了深度学习模型的鲁棒性与安全性，并总结了目前的热门话题，对挑战给出了见解，并对未来值得研究的可信 AI 提出了建议。

    Oct, 2023