本文提出一种新的适用于人体运动序列的可调节的针对性对抗攻击方法，通过引入两个物理约束条件，提高对抗样本的无感知性，定量和定性结果表明，串联对抗样本可以很好地欺骗目标预测模型，提高人体运动预测器的对抗鲁棒性，但相较于帧至帧比较，该攻击样本比较容易被检测到。

Jun, 2023

本文介绍了一种在预测自动驾驶系统的轨迹时防御对抗性攻击的方法，该方法包括设计有效的对抗训练方法和添加特定领域的数据增强来减少在净数据上的性能损失。作者通过验证表明，相较于只使用纯净数据训练的模型，该方法在对抗数据上性能提高了 46％，并只降低了 3％的净数据性能。此外，相较于现有鲁棒方法，该方法在对抗样本上的性能提高了 21％，在干净数据上的性能提高了 9％。通过对规划器的评估，研究了我们的鲁棒模型对下游影响，证明该模型可以显著减少严重事故率（例如碰撞和越野驾驶）。

Jul, 2022

使用特殊的神经网络，将 Social Force Model 嵌入结构，提高人类运动的预测精度和安全性，解释可行，且具有广阔的应用前景和实验支撑。

Jun, 2020

为了实现机器人与人类在共享环境中的无缝协作，准确预测未来的人类运动是必不可少的。本研究提出了 Adversarial Motion Transformer（AdvMT），通过整合基于 transformer 的运动编码器和时间连续性鉴别器，同时有效地捕捉了帧内的空间和时间依赖关系。在对抗训练的基础上，我们的方法有效减少了预测中的不良伪影，从而确保了学习更加真实和流畅的人类运动。评估结果表明，AdvMT 极大地提高了长期预测的准确性，同时也提供了稳健的短期预测。

Jan, 2024

本文提出了一种基于视频序列的对抗攻击和防御方法，通过考虑时间运动并生成轻量级扰动，有效提高了深度跟踪算法的鲁棒性，结果表明该方法不仅能消除对抗攻击带来的大幅性能下降，同时在未受到攻击时也能获得额外的性能增益。

Jul, 2020

该研究提出了一种新的对抗样本攻击方法，考虑到人类感知系统并最大化制作的对抗样本的噪声容忍度，实验结果证明了该技术的有效性。

Jan, 2018

本文对人体姿态估计模型的对抗攻击和其鲁棒性进行全面深入的研究，基于多个数据集对多个 2D 单人姿态估计体系进行评测，探讨了回归型网络攻击等未曾被研究过的问题，并发现热力图建模型比直接回归模型更具鲁棒性。此外，文中还展示了通用扰动的可视化效果，并进行了用户研究。

Aug, 2019

我们提出了一种新颖和全面的方法，以提高对卷积神经网络（CNNs）中对抗性示例的攻击强度和传递性的评估，以及验证计算机网络应用中是否存在传递性问题。我们的研究结果表明，即使在计算机网络应用中，对抗性示例对安全的威胁需要开发新的防御机制来增强深度学习技术的安全性。

Oct, 2023

本文针对三种自动驾驶模型，分析了五种对抗性攻击和四种防御方法的效果。实验证明，与分类模型类似，这些模型仍然非常容易受到对抗性攻击，因此实践中应该考虑到这一点。对于系统和中间件构建者，需要同时部署多种防御方法来获得对各种攻击的良好覆盖。同时也需要保护好模型的细节信息，以降低黑盒攻击的效果。如果计算资源允许，则建议使用复杂的架构模型，因为该模型比简单模型更具弹性，更能抵御对抗性攻击。

Feb, 2020

本文旨在研究人体运动建模领域的前沿研究，特别关注基于深度递归神经网络的研究成果，对当前问题的评价方法进行了调查，在研究现有的体系结构、代价函数和训练程序时，提出了三点标准改进措施，取得了最新技术的突破性进展。

May, 2017