Aug, 2022

BARReL: 视觉强化学习中的瓶颈关注机制提高对抗鲁棒性

PDF
TL;DR本文研究了视觉强化学习中自主代理的鲁棒性，发现在 CNN 体系结构中添加瓶颈注意力模块 (BAM) 可以提高抵御对抗性攻击的能力。作者表明学习到的注意力映射可以用来恢复卷积层的激活，并在一些 RL 场景中展示出加强了的鲁棒性。
adversarial perturbationsvision-based reinforcement learninggradient-based adversarial attacksbottleneck attention modulesrobustness
发现论文，激发创造
  • 瓶颈关注模块

    本篇论文提出了一种名为 Bottleneck Attention Module（BAM）的简单有效的注意力机制，可嵌入任何前馈卷积神经网络中，并在 CIFAR-100、ImageNet-1K、VOC 2007 和 MS COCO 等基准测试中通过广泛实验验证了其在图像分类和检测性能上的一致提高。

    Jul, 2018

  • 通过 DNN 瓶颈强化来防御对抗性样本

    本文提出了一种基于 DNN 的信息瓶颈增强方案，以减轻 DNN 对抗攻击的脆弱性。通过引入多尺度低通目标和多尺度高频通信来增强信息瓶颈，本方案能够有效地过滤冗余信息，对 MNIST、CIFAR-10 和 ImageNet 等数据集的实验结果表明其抵御各种对抗攻击的强大防御效果。

    Aug, 2020

  • 利用连续注意力模型实现鲁棒性图像分类

    本文提出了一种受人类感知启发的注意力模型，并将其融合到现代神经网络架构中。实验结果表明，引入注意力机制可以显著提高模型的对抗鲁棒性，在各种随机攻击强度下可以达到最先进的 ImageNet 准确度；通过控制注意力步骤的数量可以使模型的防御能力更强，并且可以对抗更强的攻击；攻击模型生成的对抗样本有着与传统对抗样本不同的全局、显著和空间一致的结构，这些结构来自目标类别并且甚至可以被人类识别，会使模型注意力从原始图像中的主要物体分散开来。

    Dec, 2019

  • 基于注意力机制的视觉应用中针对物理对抗攻击的实时策略

    本文提出了一种高效的基于注意力机制的防御方法，利用对抗通道注意力快速识别和追踪浅层网络中的恶意对象，并在多帧情景中遮蔽它们的对抗影响。该方法提升了现有超激活技术在现实世界的对抗攻击中的效果，并引入了一个高效的多帧防御框架，通过广泛实验评估了其防御性能和计算成本。

    Nov, 2023

  • CBAM：卷积块注意力模块

    本文提出一种卷积块自适应模型 (Convolutional Block Attention Module, CBAM)，通过自适应特征细粒度调整， CBAM 可以被轻松集成到任何卷积神经网络架构中，改进了分类和检测性能。

    Jul, 2018

  • 基于注意力细化的面向基于补丁攻击的鲁棒语义分割

    通过引入 Max Attention Suppression 和 Random Attention Dropout 两个新模块，我们提出了一种名为 Robust Attention Mechanism (RAM) 的方法，用于改善语义分割模型的鲁棒性，显著提高对各种基于 patch 的攻击方法的防御能力。

    Jan, 2024

  • Google 巴德对抗图像攻击的鲁棒性

    通过对 Google 的 Bard 进行攻击，该研究揭示了商业多模态大型语言模型（MLLMs）的脆弱性，发现了两种 Bard 的防御机制并提出了相应的攻击方法，从而深入了解了 MLLMs 的鲁棒性，并促进未来研究的发展。

    Sep, 2023

  • DRIBO: 多视角信息瓶颈下的鲁棒深度强化学习

    本研究利用多视角设置引入对比的多视图信息瓶颈目标训练深度强化学习代理程序，从而可以学习到能够保留任务相关信息但压缩掉任务不相关信息的强大的表示，进而训练出具有鲁棒性和泛化性的高性能政策。

    Feb, 2021

  • 使用强化学习的通用分布式基于决策的黑盒对抗攻击

    研究在决策类攻击领域提出了像素级决策驱动的黑盒攻击算法，该算法使用增强学习算法找到对抗性扰动分布，经实验证明，与现有技术相比更具攻击成功率和可转移性。

    Nov, 2022

  • 生物启发式机制的对抗鲁棒性

    本文研究两种生物学机制在对抗性鲁棒性方面的角色，并且通过消融实验证明了非均匀采样和多重感受野存在能够提高神经网络对小的对抗性扰动的鲁棒性。

    Jun, 2020