Oct, 2023

检测防御：光流中对抗性贴图攻击的空洞承诺

PDF
TL;DR当放置在任意场景位置时，敌对补丁削弱了光流预测的可靠性，因此对现实世界的运动检测及其下游应用构成了现实威胁。我们对目前可用的 ILP 和 LGS 防御策略进行了全面研究，探究其对最新光流方法的质量和稳健性的副作用。然而，当前使用的检测和移除防御策略在恶意场景下降低了光流质量，并且除了 FlowNetC 之外，对所有测试的光流方法在敌对补丁攻击下也削弱了稳健性，因此无法提供所承诺的光流的敌对稳健性。
adversarial patchesoptical flow predictionsdefense strategiesdetect-and-remove defensesadversarial robustness
发现论文，激发创造
  • 光流攻击

    本文研究了深度学习在光流估计中的鲁棒性，并表明对小于 1％的图像区域进行扰动就可以大大影响光流估计，对编码器 - 解码器体系结构的网络影响很大，而对空间金字塔体系结构的网络则较小，并且通过实验演示了这种攻击是实用的。

    Oct, 2019

  • 对抗性贴片的认证防御

    本文介绍了对抗补丁攻击的认证和经验性防御措施，其中首次提出了认证防御措施，并实验了不同补丁形状的测试，获得了出人意料的良好的鲁棒性转移。

    Mar, 2020

  • 针对无人机目标检测的模型无关防御对抗性补丁攻击

    这篇论文提出了一种针对无人机物体检测中的敌对补丁攻击的新型模型无关防御机制，将对抗性补丁防御问题形式化为遮挡消除任务，通过中性化感兴趣对象上的对抗性补丁来改善无人机物体检测的可靠性。

    May, 2024

  • 光流稳健性评估的扰动约束对抗攻击

    本文提出一种全局的 “受限扰动流攻击”（PCFA）方法，可以优化对光流预测造成的破坏，同时使对抗扰动的 L2 范数保持在一个指定的阈值以下，实现了光流方法预测质量与对抗鲁棒性的综合评估，并发现了一些鲜有人注意的安全漏洞。

    Mar, 2022

  • 对抗性 YOLO: 通过检测对抗性贴片来防御人类检测贴片攻击

    本文介绍一种名为 Ad-YOLO 的有效的插件式防御方案，它可以有效地解决面对物理世界中的侵袭攻击的问题，能够直接检测目标对象和敌对补丁的存在。经实验测试，Ad-YOLO 比 YOLOv2 在面对攻击时表现出更好的鲁棒性和稳定性。

    Mar, 2021

  • 揭示异常：保护图像分类免受对抗性贴纸攻击

    我们提出了一种防御机制，利用聚类技术 DBSCAN 来分离异常图像片段，并通过三阶段流程对敌对噪声进行定位和减轻，进而中和其效果。该防御机制在多个模型和数据集上验证，证明其在对抗性贴片攻击中的有效性，显著提高了准确性。

    Feb, 2024

  • 关于物理对抗贴片在物体检测中的应用

    本文提出了一种物理性的对抗攻击方法，能够通过拼贴一个合理设计的补丁扰乱 YOLOv3 检测器的识别结果，避免误判或漏检目标，从而在不需要修改场景中的物体的情况下，对目标检测系统进行攻击。

    Jun, 2019

  • 提高目标检测和分类 AI 模型对抗性贴纸攻击的鲁棒性

    我们分析了攻击技术并提出了一种强大的防御方法，通过利用对象的形状、纹理和位置，成功降低了 20% 以上的模型置信度。利用修复预处理技术，有效地恢复了原始的置信水平，展示了强大防御在减轻这些威胁中的重要性。我们的修复防御方法在仿真像素化的基于补丁的物理对抗攻击中显著提高了模型的韧性，实现了高精度和可靠的定位，尽管受到了对抗性攻击。这项工作推动了对抗挑战中对象检测和分类网络的韧性和可靠性的发展，并为关键应用提供了强大的基础。

    Mar, 2024

  • 物体隐藏器：面向物体检测器的对抗性贴片攻击

    该研究关注深度神经网络的安全性问题，着重研究针对目标检测算法的对抗攻击方法，通过生成特定的对抗补丁实现攻击，提出的两种算法均可有效地、通用地攻击最新的目标检测模型。此外，参加了阿里巴巴的天池对抗挑战，并在 1701 对抗团队中获得了前七名。

    Oct, 2020

  • 防御红外人体检测中的物理对抗贴片攻击

    红外检测面临物理可行的对抗性补丁攻击，本研究提出了用于红外检测的贴片遮挡感知检测（POD）防御策略，可以有效地检测对抗性补丁并提高检测精确性。

    Sep, 2023