愚弄九头蛇：对多视角物体检测系统的对抗攻击

Nov, 2023

愚弄九头蛇：对多视角物体检测系统的对抗攻击

Fool the Hydra: Adversarial Attacks against Multi-view Object Detection Systems

Bilel Tarchoun, Quazi Mishkatul Alam, Nael Abu-Ghazaleh, Ihsen Alouani

TL;DR在实际场景中机器学习模型受到对抗性攻击的威胁时，对抗性贴纸充分展示了这种威胁的具体体现。多视角系统具有在复杂环境中结合多视角数据，从而实现可靠检测结果的能力，然而多视角系统对对抗性贴纸的脆弱性尚未得到充分研究。本文通过提出两种新的攻击方法来挑战之前对多视角系统的观测结果，并取得了令人满意的攻击成功率。

Abstract

adversarial patches exemplify the tangible manifestation of the threat posed by adversarial attacks on Machine Learning (ML) models in real-world scenarios. Robustness against these attacks is of the utmost impor

adversarial patches machine learning models computer vision applications multiview systems adversarial attacks

发现论文，激发创造

物体隐藏器：面向物体检测器的对抗性贴片攻击

该研究关注深度神经网络的安全性问题，着重研究针对目标检测算法的对抗攻击方法，通过生成特定的对抗补丁实现攻击，提出的两种算法均可有效地、通用地攻击最新的目标检测模型。此外，参加了阿里巴巴的天池对抗挑战，并在 1701 对抗团队中获得了前七名。

Oct, 2020

欺骗自动监控摄像机：对抗性贴片攻击人员检测

本文介绍了一种针对具有高度内类变异的待攻击目标，即人体，生成对抗贴片的方法，并且通过实验表明，我们的系统能显著降低人体检测器的准确性，同时还在实际场景中能够进行攻击。

Apr, 2019

用于逃避物体检测模型的动态对抗贴片

该研究使用动态对抗性贴片攻击实际场景下的对象检测器，并通过生成考虑目标物品与分类之间的语义距离的贴片方法进行优化，成功地在广阔的视角范围内将 YOLOv2 对象检测器误导了 90％，并在不同汽车模型之间成功误导检测器 71％。

Oct, 2020

提高目标检测和分类 AI 模型对抗性贴纸攻击的鲁棒性

我们分析了攻击技术并提出了一种强大的防御方法，通过利用对象的形状、纹理和位置，成功降低了 20% 以上的模型置信度。利用修复预处理技术，有效地恢复了原始的置信水平，展示了强大防御在减轻这些威胁中的重要性。我们的修复防御方法在仿真像素化的基于补丁的物理对抗攻击中显著提高了模型的韧性，实现了高精度和可靠的定位，尽管受到了对抗性攻击。这项工作推动了对抗挑战中对象检测和分类网络的韧性和可靠性的发展，并为关键应用提供了强大的基础。

Mar, 2024

用于多摄像头系统的物理对抗样本

我们扩展了现有的研究，在多摄像头设置中评估了多摄像头设置相对于物理对抗样本的鲁棒性，并提出了一种名为 Transcender-MC 的新型攻击方法，该方法在训练过程中融入了在线 3D 渲染和透视投影。比起现有方法，这种攻击方法在成功攻击多摄像头设置方面效果提高了 11％。我们的发现为具有多个摄像头的物体检测的弹性提供了宝贵的见解，并促使人们开发相应的防御机制。

Nov, 2023

利用优化的飞行对抗贴片绑架基于深度学习的多旋翼机

通过引入攻击者机器人和基于深度学习模型的对抗性贴片，我们扩展了自主飞行机器人系统为一个对抗性多机器人系统，比较了三种方法来优化多个对抗性贴片及其在输入图像中的位置，同时展示了具有两个机器人的物理飞行实验，通过计算的对抗性贴片来劫持原本应该跟随人类的机器人。

Aug, 2023

Patch-Fool：Vision Transformer 是否总是对对抗性扰动具有稳健性？

本论文探讨了 ViTs 和 CNNs 在面对各种对抗攻击时的鲁棒性及其背后的因素，提出了一种名为 Patch-Fool 的攻击框架，通过对单个 patch 进行一系列 attention-aware 优化技术的攻击来愚弄其 self-attention 机制，并发现在 Patch-Fool 攻击下，ViTs 不一定比 CNNs 更具鲁棒性。

Mar, 2022

MVPatch：物理世界中针对目标检测器的更生动伪装攻击

提出了一种新颖的方法，名为 MVPatch，旨在提高对抗性贴片的转移性和隐蔽性，避免易于识别和传输性差的问题。该方法通过使用集成攻击损失函数来降低多个对象检测器的对象置信度分数，从而增强对抗性贴片的转移性，同时使用 CSS 损失函数实现轻量级的视觉相似度测量算法，使得生成的对抗性贴片具有更加自然和隐蔽的外观。广泛的实验表明，与类似算法相比，所提出的 MVPatch 算法在数字和实际领域中都实现了更强的攻击转移性，并展现出更加自然的外观。这些发现强调了所提出的 MVPatch 攻击算法的显著隐蔽性和转移性。

Dec, 2023

物理世界中跨模态攻击的统一对抗贴片

本文提出了一种跨模态物理攻击方法，在物理世界中通过统一的对抗性贴片欺骗可见光和红外物体探测器，在考虑到不同成像机制的情况下，通过设计新型的边界受限形状优化和考虑得分的迭代评估，成功地减少了多模式传感器的预测得分。

Jul, 2023

自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

Jan, 2022