四足机器人的对抗性联合攻击

May, 2022

Adversarial joint attacks on legged robots

Takuto Otomo, Hiroshi Kera, Kazuhiko Kawamoto

TL;DR该研究针对被深度强化学习训练的腿式机器人关节执行器的对抗攻击进行了探讨，发现对执行器扭矩控制信号的对抗扰动会显著降低机器人的奖励并导致行走不稳定。作者使用黑盒对抗攻击策略，采用三种搜索方法在 OpenAI Gym 的环境下对四足机器人 Ant-v2 和双足机器人 Humanoid-v2 进行实验，证明差分进化方法可以高效地找到最强的扭矩扰动，并发现四足机器人 Ant-v2 容易受到对抗攻击的影响，而双足机器人 Humanoid-v2 相对稳定。因此，这种关节攻击可用于机器人步态不稳定的主动诊断。

Abstract

We address adversarial attacks on the actuators at the joints of legged robots trained by deep reinforcement learning. The vulnerability to the joint attacks can significantly impact the safety and robustness of

adversarial attacks legged robots deep reinforcement learning adversarial torque perturbations proactive diagnosis

发现论文，激发创造

重新思考鲁棒性评估：基于学习的四足动力学控制器的对抗攻击

通过串行对抗攻击来识别学习行动控制器的弱点，验证了即使是最先进的鲁棒控制器也可能在设计良好、低幅度的对抗序列下显著失败，并展示了该方法生成的结果如何用于加强原始策略并深入了解这些黑盒策略的安全性。

May, 2024

用于两栖机器人的对抗身体形态搜索

该论文提出了一种基于深度强化学习的进化计算方法，用于对有腿机器人的部分长度和厚度进行对抗性攻击，从而改变机器人体形干扰行走，并找到对抗性机体形状以主动诊断有腿机器人行走的漏洞。

May, 2022

深度强化学习攻击特征分析

本研究主要研究深度强化学习模型的脆弱性，针对相应的攻击方式进行了探究，并提出了黑盒攻击、在线顺序攻击等攻击方法来应对其高计算需求，同时探讨了攻击者扰动环境动态的可能性，并通过实验验证了这些攻击方式的有效性。

Jul, 2019

具有对抗攻击的强化学习做法

本文提出了针对强化学习的对抗攻击，并通过这些攻击提高了深度强化学习算法对参数不确定性的鲁棒性。我们展示了即使是一个简单的攻击也能成功降低深度强化学习算法的性能，并进一步使用工程丢失函数的梯度信息改进了攻击方法，导致性能进一步降低。这些攻击方法被用于训练中，以改善 RL 控制框架的鲁棒性。我们展示了在 Cart-pole，Mountain Car，Hopper 和 Half Cheetah 等 RL 基准测试环境中，对 DRL 算法进行对抗训练可以显著提高其对参数变化的鲁棒性。

Dec, 2017

针对深度强化学习的隐蔽高效敌对攻击

探索针对深度强化学习的对抗攻击，并提出两种攻击技术：关键点攻击和拮抗攻击，以提高鲁棒性，实验结果显示这两种技术比现有方法更具优势。

May, 2020

深度学习模型的鲁棒性物理攻击

该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

Jul, 2017

深度强化学习的认证对抗鲁棒性

本文研究基于深度神经网络的自主决策系统的安全性，提出了一种基于认证对抗鲁棒性的在线防御机制，该机制计算执行过程中状态 - 动作值的保证下限，以在可能存在对手或噪声导致输入空间最差情况偏离选择最佳行动，在行人碰撞回避场景和一个经典控制任务中，该方法显示出提高对噪声和对手的鲁棒性。

Oct, 2019

飞行对抗性贴片：操纵基于深度学习自主多旋翼的行为

通过将图像装载到另一个飞行机器人上，将对多旋翼机器人进行全面控制的飞行对抗性补丁放置在其视野中，对自主飞行机器人进行深度学习模型攻击的研究。

May, 2023

利用优化的飞行对抗贴片绑架基于深度学习的多旋翼机

通过引入攻击者机器人和基于深度学习模型的对抗性贴片，我们扩展了自主飞行机器人系统为一个对抗性多机器人系统，比较了三种方法来优化多个对抗性贴片及其在输入图像中的位置，同时展示了具有两个机器人的物理飞行实验，通过计算的对抗性贴片来劫持原本应该跟随人类的机器人。

Aug, 2023

通过动作空间对抗训练强化学习智能体的鲁棒性提升

研究了机器学习在具备恶意状态 / 执行机构攻击下的表现，介绍了深度强化学习在决策和控制任务中存在漏洞的问题，提出了通过对抗训练来提高深度强化学习代理的抗干扰性以实现系统的稳定性和鲁棒性。

Jul, 2020