面向骨骼动作识别的物理世界后门攻击研究
提出了一种名为SMART的方法,通过创新的感知损失攻击依赖于3D骨架运动的动作识别器,该方法在白盒和黑盒场景中都很有效,且具有广泛的推广性和多样性,并且证明3D骨架运动的对抗攻击与传统的对抗攻击问题存在明显的差异。
Nov, 2019
本研究采用深度学习技术,针对基于骨骼的动作识别的敌对性弱点进行分析,并提出了一种基于约束优化和ADMM的优化算法及防御机制。经过广泛评估,该方法在不同情境下具有良好的攻击及防御效果。
May, 2020
本文针对实体物体作为触发器所形成的后门攻击,进行一个详细的实证研究,并探究了针对这种攻击的防御方法。研究发现,实体后门攻击非常成功,尤其是对于关键面部特征高度依赖的系统,而且这些攻击可以规避现有的数字攻击防御去针对后门攻击的核心假设。因此,我们需要针对物理世界中的后门攻击,建立更为强大的防御方法。
Jun, 2020
该研究提出了基于骨骼运动的黑盒对抗攻击方法(BASAR),通过全面的评估和比较,展示了其在不同模型、数据和攻击模式下的成功攻击能力,并揭示了骨骼运动中广泛存在的对抗样本。
Mar, 2021
文章研究了先进的行动识别器对抗性攻击的鲁棒性,并提出了一种基于3D骨架运动的攻击方法,该方法包含一种创新的感知丢失,保证攻击的不可察觉性,实证研究表明我们的方法对于白盒和黑盒情况均有效。
Mar, 2021
本文证明了在对骨骼长度进行干扰的情况下,即使在大大降低的维度下,骨骼动作识别模型也容易受到对抗攻击,并且在此设置下,骨骼长度攻击的对抗训练与数据增强具有相似的特性,既提高了对抗强度,也提高了对原始数据的分类准确率。
Sep, 2021
本文第一次证明了现有的目标检测器在数字触发器和实际场景中普遍存在的后门漏洞问题,提出了真实世界物理攻击场景下的攻击方法,并具体研究了三种流行的目标检测算法的鲁棒性与可行性。
Jan, 2022
该研究证明了基于骨骼的人体活动识别方法容易受到对抗性攻击,并通过学习动作流形和定义对抗损失函数得到了一种新的梯度,称为骨骼-运动信息梯度。该研究提出了一种无需访问受攻击模型、训练数据或标签的攻击方法,对现有分类器构成真正的威胁,并提升了对抗样本在不同设置下的转移性和感知性。
Aug, 2023
骨骼运动在人类活动识别(HAR)中发挥着关键作用。最近,攻击方法已被提出以识别基于骨骼的HAR(S-HAR)的通用易受攻击性。然而,关于S-HAR的敌对可转移性的研究还很少。存在的攻击方法在未知的S-HAR模型间难以传递。我们观察到这主要原因在于动作识别器的损失函数景观崎岖且陡峭。根据之前的研究中已建立的损失函数景观与敌对可转移性之间的相关性,我们假设并经验证,平滑损失函数景观可能会提高S-HAR上的敌对可转移性。通过提出一种新的后期训练的双贝叶斯策略实现了这一目标,该策略可以在不需要重新训练的情况下有效地探索模型后验空间的一组替代模型。此外,我们以贝叶斯方式将攻击梯度与运动动力学信息相结合,以构建沿着动作流形的敌对样本。在基准数据集(如HDM05和NTU 60)上进行评估,平均传递成功率分别可达35.9%和45.5%。与现有最先进的骨骼攻击相比,其仅达到3.6%和9.8%。高敌对可转移性在各种替代模型、受害者模型甚至防御模型之间保持一致。通过对结果的全面分析,我们提供了关于哪些替代模型更可能呈现可转移性的见解,为未来研究提供了启示。
Jul, 2024
本研究针对现有骨骼动作识别攻击的转移性不足问题,通过分析损失表面特性,提出了TASAR攻击方法。该方法平滑化损失空间并结合运动动态,有效提高了骨骼动作识别中的对抗转移性,为真实世界应用提供了新的解决方案与性能基准。
Sep, 2024