ICCVNov, 2023

破坏时间一致性：使用图像模型生成视频通用对抗扰动

PDF
TL;DR使用图像数据和图像模型的 Breaking Temporal Consistency（BTC）方法，通过对视频中邻近帧的特征相似性进行最小化以生成逆向模式的对抗性视频，在各种数据集中具有优越的效果。
video analysisdeep learning modelsuniversal adversarial perturbation (uap)breaking temporal consistency (btc) methodadversarial videos
发现论文，激发创造
  • 使用生成模型的可传递通用对抗扰动

    本文提出了一种针对深度网络易受对抗扰动攻击的问题的方法，使用预训练网络生成图像无关对抗扰动（UAPs），并通过在源模型的第一层仅关注对抗能量的损失，提高了 UAPs 的传递性，并在实验中展示了该方法的优越性。

    Oct, 2020

  • 通用对抗攻击综述

    本研究总结了最近在通用对抗攻击领域里取得的进展，讨论了攻击和防御方面的挑战以及通用对抗攻击存在的原因，旨在成为一项动态研究，不定期更新其内容，包括图像、音频、视频和文本等多个领域，欢迎该领域的作者联系我们，以纳入您的新发现。

    Mar, 2021

  • 视觉语言预训练模型的普适对抗扰动

    我们的研究通过提出新的黑盒方法生成有效且可转移的通用对抗扰动，以揭示 VLP 模型对于图像模态特定模式的不可感知扰动是否普遍敏感，进一步研究了增强 UAPs 的有效性和可转移性的方法，达到了有效且可传递的通用对抗攻击。

    May, 2024

  • 关于通用对抗干扰的无数据对抗检测的有效性

    本论文提出了一种不需要原始训练数据即可计算 UAPs 的数据无关对抗性检测框架，并对各种文本分类任务进行了实验证明其具有竞争性的检测性能，且与正常推断相当。

    Jun, 2023

  • 图像分类中最新通用对抗扰动的比较评估

    本文综述了最近在图像分类任务中的 UAPs 的进展，并将其分类为噪声攻击和生成器攻击，并提供了每个类别中代表性方法的全面概述，同时还评估了不同的损失函数在一致的培训框架内的各种攻击设置的有效性，最后提供了扰动的一些可视化及未来的潜在研究方向。

    Jun, 2023

  • 图像检索的通用扰动攻击

    首次尝试以攻击图像检索系统为目标，利用新的方法生成反检索通用对抗扰动，通过降低相关的排名度量来打破图像特征之间的邻域关系。我们的方法通过多尺度随机调整大小的方案和排名蒸馏策略扩展攻击方法，并在四个广泛使用的图像检索数据集上进行了评估。在不同度量方面，如 mAP 和 mP @ 10 等，报告了显着的性能下降。最后，我们在实际的视觉搜索引擎 Google Images 上测试了我们的攻击方法，证明了我们的方法的实际潜力。

    Dec, 2018

  • 通用对抗扰动：一次调查

    本文研究深度学习中的普适性对抗扰动，探讨相关的数据驱动和数据无关的生成方法及防御技术，并讨论了普适性对抗扰动在各项深度学习任务中的应用。

    May, 2020

  • 通过深度隐写学的视角实现通用对抗扰动：迈向傅里叶视角

    利用傅里叶分析的方法，我们从任务特定和联合分析的角度，揭示频率分布和高频内容对深度学习模型的鲁棒性和发现模型广泛化有深层次的影响。我们还提出了两种新的万能扰动：同时达到攻击和隐藏的 “通用秘密对抗扰动”（USAP）和对人眼不可见的 “高通万能扰动”（HP-UAP）

    Feb, 2021

  • 通过通用对抗扰动对深度神经网络进行全局指纹识别

    本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

    Feb, 2022

  • 广泛适用的视频攻击中添加对抗性帧

    本研究提出了一种基于视频的攻击方法，将几个无用帧附加到视频剪辑中并仅对这些新帧添加对抗扰动，这种攻击可以成功地穿越不同的网络，并且对于大多数人来说是不易注意到异常的，从而有效地进行通用视频攻击。

    Dec, 2019