飞行对抗性贴片：操纵基于深度学习自主多旋翼的行为

May, 2023

飞行对抗性贴片：操纵基于深度学习自主多旋翼的行为

Flying Adversarial Patches: Manipulating the Behavior of Deep Learning-based Autonomous Multirotors

Pia Hanfeld, Marina M.-C. Höhne, Michael Bussmann, Wolfgang Hönig

TL;DR通过将图像装载到另一个飞行机器人上，将对多旋翼机器人进行全面控制的飞行对抗性补丁放置在其视野中，对自主飞行机器人进行深度学习模型攻击的研究。

Abstract

autonomous flying robots, e.g. multirotors, often rely on a neural network that makes predictions based on a camera image. These

autonomous flying robots deep learning adversarial attacks multirotors neural network

发现论文，激发创造

利用优化的飞行对抗贴片绑架基于深度学习的多旋翼机

通过引入攻击者机器人和基于深度学习模型的对抗性贴片，我们扩展了自主飞行机器人系统为一个对抗性多机器人系统，比较了三种方法来优化多个对抗性贴片及其在输入图像中的位置，同时展示了具有两个机器人的物理飞行实验，通过计算的对抗性贴片来劫持原本应该跟随人类的机器人。

Aug, 2023

针对优化位置的对抗性贴片的对抗训练

提出了一种可通过物理方式应用于图像中的明显但具有对抗性的矩形贴片，并利用对抗训练的方式来增强深度神经网络对对抗贴片的鲁棒性，这种训练不会降低网络的分类准确率。

May, 2020

自动驾驶系统的动态对抗攻击

通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。

Dec, 2023

用于逃避物体检测模型的动态对抗贴片

该研究使用动态对抗性贴片攻击实际场景下的对象检测器，并通过生成考虑目标物品与分类之间的语义距离的贴片方法进行优化，成功地在广阔的视角范围内将 YOLOv2 对象检测器误导了 90％，并在不同汽车模型之间成功误导检测器 71％。

Oct, 2020

生成逼真的对抗补丁

深度神经网络容易受到各种类型的对抗性样本的攻击，并且现有的对抗性修补方法通常生成的修补具有无意义的噪声或图案，本研究旨在生成真实视觉效果的对抗性修补以欺骗深度神经网络。通过在真实图像的邻域内限制修补的位置，优化位置的不相关性，并采用总变差损失和伽马变换以保留信息，生成的对抗性修补具有卓越的攻击性能，并且可以伪装成物理世界中的涂鸦或标志来欺骗深度模型，给深度神经网络应用带来重大威胁。

Dec, 2023

基于可解释的深度强化学习的无人机导航与规划中的鲁棒性对抗攻击检测

采用可解释的深度学习方法为指导和规划的无人机构建了一个仿真环境，其中包括障碍和对抗性攻击，并建立了对此的对抗性攻击检测器

Jun, 2022

愚弄九头蛇：对多视角物体检测系统的对抗攻击

在实际场景中机器学习模型受到对抗性攻击的威胁时，对抗性贴纸充分展示了这种威胁的具体体现。多视角系统具有在复杂环境中结合多视角数据，从而实现可靠检测结果的能力，然而多视角系统对对抗性贴纸的脆弱性尚未得到充分研究。本文通过提出两种新的攻击方法来挑战之前对多视角系统的观测结果，并取得了令人满意的攻击成功率。

Nov, 2023

物体隐藏器：面向物体检测器的对抗性贴片攻击

该研究关注深度神经网络的安全性问题，着重研究针对目标检测算法的对抗攻击方法，通过生成特定的对抗补丁实现攻击，提出的两种算法均可有效地、通用地攻击最新的目标检测模型。此外，参加了阿里巴巴的天池对抗挑战，并在 1701 对抗团队中获得了前七名。

Oct, 2020

欺骗自动监控摄像机：对抗性贴片攻击人员检测

本文介绍了一种针对具有高度内类变异的待攻击目标，即人体，生成对抗贴片的方法，并且通过实验表明，我们的系统能显著降低人体检测器的准确性，同时还在实际场景中能够进行攻击。

Apr, 2019

针对无人机目标检测的模型无关防御对抗性补丁攻击

这篇论文提出了一种针对无人机物体检测中的敌对补丁攻击的新型模型无关防御机制，将对抗性补丁防御问题形式化为遮挡消除任务，通过中性化感兴趣对象上的对抗性补丁来改善无人机物体检测的可靠性。

May, 2024