Mar, 2021

双重关注抑制攻击：在物理世界中生成对抗伪装

PDF
TL;DR本文提出了双重关注抑制攻击 (Dual Attention Suppression，DAS) 来对抗深度学习模型中的物理对抗性样本，该方法具有模型无关性和人类特定模式，在数字和实体世界中均进行了广泛实验，表明该方法优于当前最先进的对抗性攻击方法。
deep learningadversarial examplesdual attention suppression attacktransferabilitymodel-agnostic
发现论文，激发创造
  • 对抗伪装：利用自然风格隐藏物理世界攻击

    本研究提出了一种新的方法 ——Adversarial Camouflage，在数字和现实情境下都能够制造出看起来合理、而且几乎不被发现的隐形对抗样本，以此来检验 DNN 的鲁棒性。

    Mar, 2020

  • 可转移的、基于可分离注意力的物理攻击方法针对目标检测

    本文提出了一种基于多尺度注意力图的逐渐合成平均图的方法，通过压制目标物体的前景注意力和增强背景的注意力，生成可实现物理伪装的转移攻击，取得了优于现有技术的结果。

    May, 2022

  • 基于差分进化的双重对抗伪装：欺骗人眼和物体检测器

    本研究提出一种基于差分演化的对抗性伪装方法 (DE_DAC)，旨在同时欺骗人眼和目标检测器。该方法包含两个阶段，分别对全局和局部纹理进行优化，从而达到伪装目的。其中，差分演化算法用于搜索攻击对象的最优区域。实验结果表明，该方法在多个场景和物体上能够良好地平衡人眼和目标检测器的伪装效果。

    Oct, 2022

  • 基于注意力机制的视觉应用中针对物理对抗攻击的实时策略

    本文提出了一种高效的基于注意力机制的防御方法，利用对抗通道注意力快速识别和追踪浅层网络中的恶意对象，并在多帧情景中遮蔽它们的对抗影响。该方法提升了现有超激活技术在现实世界的对抗攻击中的效果，并引入了一个高效的多帧防御框架，通过广泛实验评估了其防御性能和计算成本。

    Nov, 2023

  • 物理对抗样本用于目标检测

    对物理深度学习算法模型的物理攻击，提出了 Disappearance Attack 和 Creation Attack 进行检测，结果表明存在风险，攻击模型具有可迁移性

    Jul, 2018

  • 物理对抗攻击遇见计算机视觉：十年调查

    对于深度神经网络 (DNNs) 的安全性问题，本文重点关注于物理对抗攻击，总结了 150 篇现有的物理对抗攻击的论文，详细分析了物理对抗攻击的特征、媒介、方法及其效果，并探讨了当前的挑战和未来方向。

    Sep, 2022

  • 针对监视的物理对抗攻击：一项调查

    本文回顾了最近在物理对抗攻击方面的尝试和发现，并提出了一种框架来分析物理对抗攻击，并在该框架下对四个关键监控任务：检测，识别，跟踪和动作识别进行了全面的调查。此外，我们还回顾并分析了防御物理对抗攻击的策略和评估防御优势的方法。这篇论文为在监控系统中建立抵抗物理对抗攻击的韧性迈出了重要一步。

    May, 2023

  • DTA：利用可微变换网络进行物理伪装攻击

    本文提出了 Differentiable Transformation Attack (DTA) 框架，基于 Differentiable Transformation Network (DTN) 生成具备动态适应性的伪装图案，成功地使 3D 车辆在物理世界和虚拟现实环境中逃避最先进的目标检测模型。

    Mar, 2022

  • 影子可能很危险：自然现象导致的隐蔽高效实物世界敌对攻击

    本文研究了利用自然现象 —— 影子生成干扰以实现自然和偷偷摸摸的物理世界对抗攻击的新型光学对抗样本，并在模拟和真实环境下进行了广泛评估，结果表明此攻击的成功率达到了 98.23% 和 90.47%，而且可以在真实场景下连续欺骗移动摄像机 95% 以上的时间。

    Mar, 2022

  • 深度伪造检测的对抗威胁：实用角度分析

    本研究以黑盒方式对当今最先进的 DeepFake 检测方法进行批判性漏洞研究，旨在提高其鲁棒性，包括对抗攻击和使用通用对抗样本进行更容易的攻击。该研究还在 DeepFake 检测挑战赛的获奖入口上进行了评估，并证明了它们可以很容易地被跨模型攻击所绕过。

    Nov, 2020