AAAIDec, 2023

LogoStyleFool: 透过徽标风格转换损坏视频识别系统

PDF
TL;DR本文提出了一种名为 LogoStyleFool 的新型攻击框架，通过将一个图标添加到干净的视频中，解决了将大量的风格化干扰添加到所有像素中降低视频的自然性和受到检测的问题，并通过分离攻击为三个阶段以及在强化学习之后添加一个优化阶段来解决基于补丁的视频攻击在目标攻击方面的局限性。实验证明，LogoStyleFool 在攻击性能和语义保留方面优于三种最先进的基于补丁的攻击方法，并且在对抗两种现有的基于补丁的防御方法时仍然保持其性能。我们相信本研究对于增加安全社区对这种亚区域风格转换攻击的关注具有积极意义。
video recognition systemsadversarial examplesstyle transfer-based attackspatch-based attackslogostylefool
发现论文，激发创造
  • LocalStyleFool: 区域视频风格转移攻击使用分段模型

    提出了 LocalStyleFool 这种基于局部风格转换的黑盒视频对抗攻击方法，通过对视频中的不同区域进行风格转换的扰动来提高每帧和每帧之间的真实性，并通过 Segment Anything Model (SAM) 的细致分割来提高高分辨率数据下对抗性攻击的可扩展性。

    Mar, 2024

  • StyLess: 提升对抗样本的可迁移性

    本研究提出一种称为 StyLess 的对抗攻击方法，通过使用包含不同风格特征的样式化网络，以及利用自适应实例标准化来编码不同的风格特征，从而生成具有可转移性的扰动，以此提高对抗样本的攻击传递能力，并在与其他攻击技术结合时优于现有的攻击方法。

    Apr, 2023

  • 破坏视频图像的风格模仿攻击

    探索视频图像的方式以阻碍艺术风格模仿，验证个别帧和短场景的优化基准能够恢复对艺术模仿的保护，同时抵御适应性对策。

    May, 2024

  • 实时本地化光真实视频风格转换

    本文提出了一种基于深度神经网络的算法，通过将图像的语义有意义的本地区域的艺术风格转移至目标视频的本地区域，同时保持其照片般的逼真性，并通过噪声和时间损失来优化视频的语义标签和平滑转换风格，最终实现一种能够自动生成视觉媒体的风格迁移方法。

    Oct, 2020

  • 3D 对抗性标志能否遮蔽人类？

    本文介绍了一种新型的三维对抗性标志攻击方法，通过纹理映射构建任意形状的标志，通过可微分渲染反向传播到二维图像领域中，能够在攻击物理世界中欺骗最先进的深度物体检测器。

    Jun, 2020

  • 语义对抗彩色化

    本文提出一种基于图像语义的黑盒对抗攻击方法 ColorFool，可以生成无限制扰动并通过颜色选择实现隐藏，相较于其他五种方法在场景和对象分类任务中对三种深度神经网络的对抗攻击中表现出更高的成功率，对防御框架表现更强，具有更强的传递性。

    Nov, 2019

  • 提高恶意示例的可转移性：任意风格转移

    通过使用不同域中的数据增强，我们提出了一种名为 Style Transfer Method（STM）的新的攻击方法，利用提出的任意风格转换网络将图像转换为不同的域，从而显著提高了对抗性可转移性。

    Aug, 2023

  • 基于特征空间的对抗攻击

    本文提出了一种新的对抗攻击方法，通过扰动表示样式的抽象特征，包括可解释和不可解释的风格，诸如鲜艳色彩和锐利轮廓等，通过优化程序注入难以察觉的风格变化，实现深度神经网络模型误分类，我们展示了该方法产生的对抗样本比现有的非受限制攻击更加自然，并支持现有的像素空间的对抗攻击检测和防御技术难以在风格相关特征空间中保证模型的鲁棒性。

    Apr, 2020

  • Adversarial Patch 的生成与应用：基于注意力引导特征融合的自然与可迁移性

    通过 Adv-Inpainting 框架生成更具迁移性和视觉质量的自然对抗性贴片，从而改进了先前的对抗性贴片攻击方法。

    Aug, 2023

  • 通过音频风格转换评估自动语音识别系统的鲁棒性

    在自动语音识别系统广泛应用的背景下，我们提出了一种基于用户自定义风格转换的攻击方法，结合风格转换和对抗攻击的顺序来实现对 ASR 系统的攻击，实验结果表明我们的方法能够满足用户个性化风格的需求，并在攻击中达到了 82% 的成功率，并且由于我们的用户研究保持了音频的自然性。

    May, 2024