Jan, 2020

针对注意力机制的通用对抗攻击及其导致的数据集 DAmageNet

PDF
TL;DR提出利用 Attention Loss 替代传统 Cross entropy loss 拓展 Attack on Attention（AoA）的方法，生成了 50000 个对多个 DNNs 均有效的对抗样本，建立了全新的对抗数据集 DAmageNet
adversarial attacksneural networksattack on attentiontransferability-enhancement techniquesdamagenet
发现论文，激发创造
  • CAAD 2018: 迭代性集成对抗攻击

    本文提出了一种针对图像分类器集合的迭代式对抗攻击方法，通过此方法，在 CAAD 2018 针对性对抗攻击竞赛中获得第五名，该方法提高了黑匣子对抗攻击的成功率。

    Nov, 2018

  • 自然对抗样本

    使用对抗性过滤技术构建了两个具有挑战性的数据集，分别是 ImageNet-A 和 ImageNet-O，这两个数据集的出现使得计算机视觉模型的性能大幅下降，而现有的数据增强技术和公共训练数据集的使用带来的改进有限。

    Jul, 2019

  • 基于感知度量的任务通用性对抗攻击

    提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

    Nov, 2018

  • 对抗性对齐：打破攻击强度和其对人类感知的相关性之间的权衡

    通过研究和比较多种神经网络，本文发现随着图片识别准确度的提高，对抗性攻击虽然越来越容易使模型改变分类决策，但同时攻击的特征也越来越远离与人类视觉识别相关的特征，即使人工以同样方式造成的影响。而通过神经协调器网络的训练，可以使神经网络更加接近人类视觉识别应有模式，从而提高对抗性攻击下的鲁棒性。

    Jun, 2023

  • 深度神经网络的图像边界上的不可察觉对抗攻击

    通过系统性攻击图像边界提出的一种不可察觉的对抗性攻击方法，有效攻击了六个 CNN 模型和 Vision Transformers，仅使用图像边界的 32% 作为输入，成功率达到 95.2%，峰值信噪比为 41.37 dB，借此可以更深入地理解对抗性样本，并给出了构造对抗性样本的不同视角。

    Aug, 2023

  • 通用、可转移和有针对性的对抗攻击

    本文使用一种名为对抗性样本的设计，产生一个可以同时攻击深度神经网络的通用攻击，包括目标攻击，通用攻击以及可转移攻击。

    Aug, 2019

  • 针对 DNN 的实用无盒对抗攻击

    通过使用少量的样本，本研究提出了三种机制进行训练，其中原型重建是最有效的，生成的对抗性样本可成功地转移至各种图像分类和面部验证模型，最终的应用结果显示我们的方法能够显著降低商业名人识别系统的预测准确率近 15.4％。

    Dec, 2020

  • 关注注意力于图像描述

    本文提出了一种名为 Attention on Attention (AoA) 的模块，旨在扩展传统的注意机制以确定关注结果与查询之间的相关性，应用于编码器和解码器的图像字幕模型 AoANet 显示出了比以前的方法更好的性能，实现了 MS COCO Karpathy 离线测试拆分的 129.8 CIDEr-D 得分和官方在线测试服务器的 129.6 CIDEr-D (C40) 得分的最新技术水平。

    Aug, 2019

  • 通过多任务学习实现可扩展的对抗攻击归因

    本研究提出了一个名为 MTAA 的多任务学习框架，可以同时识别攻击算法、受害模型和超参数三个签名，并使用不确定性加权损失来调整权重，从而提高该框架对于误报的处理能力。

    Feb, 2023

  • 自主驾驶多任务视觉感知的对抗攻击

    本文针对自主驾驶感知任务中的多任务视觉感知深度网络，进行了细致的对抗攻击研究，并提出了简单的防御方法。实验考虑了针对性和非针对性的白盒和黑盒攻击，以及在攻击一个任务时检查对其他任务的影响，同时还检查了应用简单防御方法的效果。最后通过对实验结果进行比较和讨论，提出了一些结论和未来研究方向。

    Jul, 2021