Oct, 2015

探索对抗图像的空间

PDF
TL;DR本研究在 MNIST 和 ImageNet 数据集上探究了浅层和深度分类器对抗性图像的像素空间，并证明了在相同任务中与深度卷积神经网络相比，浅层分类器的抗干扰性更强，同时也提供了新的展示现象及其高可变性的可视化。
发现论文，激发创造
  • 有这样的朋友，还要什么敌人？

    本文通过研究表明，图像分类网络对于对抗性攻击的脆弱性与其性能之间是一种互相联系的关系，因为网络中最容易受攻击的输入图像方向也是它们用于实现其分类性能的方向。此外，这种关系对于构建既精确又具有抵抗对抗攻击能力的神经网络具有深远的影响。

    Jul, 2018

  • 基于特征空间的对抗攻击

    本文提出了一种新的对抗攻击方法，通过扰动表示样式的抽象特征，包括可解释和不可解释的风格，诸如鲜艳色彩和锐利轮廓等，通过优化程序注入难以察觉的风格变化，实现深度神经网络模型误分类，我们展示了该方法产生的对抗样本比现有的非受限制攻击更加自然，并支持现有的像素空间的对抗攻击检测和防御技术难以在风格相关特征空间中保证模型的鲁棒性。

    Apr, 2020

  • 图像空间之外的对抗攻击

    本文针对深度神经网络生成对抗样本的问题展开了研究，提出了针对 3D 物理性质改变的对抗样本生成方法，并通过在 2D 输入图像前增加可渲染模块的方式，成功地将对抗扰动提升到物理空间，检验了所设计的方法的有效性。

    Nov, 2017

  • 图像分类器的鲁棒性和不变性属性

    本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

    Aug, 2022

  • 语义对抗样本

    本文提出了一种新类的对抗样本 ——“语义对抗样本”，即通过对图像进行任意扰动来欺骗模型，但修改后的图像在语义上代表的仍是原始图像，通过构建约束优化问题和基于人类认知系统的形状偏置特性的对抗变换，生成对抗图像的颜色转移极大影响了 Deep neural networks 模型精度。

    Mar, 2018

  • 通过限制深度神经网络的隐藏空间来进行对抗性防御

    针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

    Apr, 2019

  • 废物利用：通过对抗样本抵抗对抗样本

    通过在预先训练好的外部模型上找到敌对样本，我们将有害的攻击过程转化为有用的防御机制，并且我们的防御方法比先前的方法更为强大和经济。

    Nov, 2019

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 语义对抗攻击：参数转换欺骗深度分类器

    本文通过对参数条件生成模型的范围空间进行对抗性损失的优化，提出了一种新颖的方法来生成 “语义” 对抗性示例，并在面部图像上展示了其攻击的效果。

    Apr, 2019

  • 对抗游乐场：展示对抗样例如何愚弄深度学习的可视化套件

    该研究介绍了一个名为 Adversarial-Playground 的基于 Web 的可视化工具，用于教育和探索深度学习在安全应用程序中的漏洞，并演示共同对抗策略对卷积神经网络的有效性。

    Aug, 2017