Apr, 2024

多模态攻击检测用于动作识别模型

PDF
TL;DR对视频动作识别模型的对抗机器学习攻击是一个不断增长的研究领域，然而只有很少的工作关注抵御或检测这些攻击。我们在这项工作中提出了一种新颖的通用检测方法，该方法与任何动作识别模型兼容，并在广泛的实验中表明其在高真阳性率的同时满足非常低的假阳性率，有效检测不同目标模型的各种攻击，并且对于不同攻击强度表现出鲁棒性，具备作为实际防御机制的潜力。
adversarial machine learning attacksvideo action recognition modelsuniversal detection methodattack detectionrobust defense mechanism
发现论文，激发创造
  • 基于光流的动作识别分类器的对抗攻击

    本文研究针对时间序列 action recognition 领域深度学习模型的无目标对抗攻击方法，该方法可以在白盒和黑盒模式下显著降低模型性能，并且攻击的样本不易被察觉，同时还证明该攻击方式具有一定的可迁移性。

    Nov, 2018

  • 揭示针对说话人识别的对抗样本 -- 攻击检测和受害模型分类的技术

    提出了一种检测对抗性示例的方法，基于新的架构进行攻击类型分类并介绍一种对受害模型进行识别的方法，获得了较高的检测准确率和分类准确率。

    Feb, 2024

  • 视频行为识别模型的大规模稳健性分析

    本文对现有的视频动作识别模型进行大规模的复杂性分析，提供了不同的基准数据集，并研究了现有模型对 90 种不同扰动的鲁棒性，结果表明，基于 Transformer 的模型相对于基于 CNN 的模型更具鲁棒性。

    Jul, 2022

  • 对抗性增强训练使行动识别模型更能适应现实视频分布的变化

    提出了两种新的评估方法来评估模型对训练和测试数据之间的分布差异的鲁棒性，通过采用梯度上升在数据增强参数上生成对分类模型具有挑战性的视频视图的增强视图，并通过 ' 课程 ' 调度视频增强的强度来解决鲁棒性问题。在现实世界的应用中，通过对比基准，在三种最先进的动作识别模型 - TSM、Video Swin Transformer 和 Uniformer 上实验表明了所提出的对抗性增强方法的优越性能，从而提高了视频动作识别性能。

    Jan, 2024

  • 鲁棒性骨骼动作识别在对抗攻击下的理解

    文章研究了先进的行动识别器对抗性攻击的鲁棒性，并提出了一种基于 3D 骨架运动的攻击方法，该方法包含一种创新的感知丢失，保证攻击的不可察觉性，实证研究表明我们的方法对于白盒和黑盒情况均有效。

    Mar, 2021

  • Just One Moment: 深度行动识别面临的结构性脆弱性对抗单帧攻击

    本文研究了基于视频的动作识别模型对于单帧干扰攻击的结构性脆弱性，分析发现这些模型由于其结构性质非常容易受到攻击，实验结果显示了很高的攻击成功率和可忽略的干扰特征，从多个角度揭示了现代动作识别模型在对抗攻击方面的严重脆弱性问题。

    Nov, 2020

  • 区域适应、多标签学习和最优时序融合的动作部位检测

    提出一种深度学习框架来解决面部分析中动作单元检测中不同面部区域的对齐问题、时间信息的有效融合问题、以及多标签模型的训练问题，该方法结合了 ROI 适应性、多标签学习和基于 LSTM 的时间融合，评估结果表明，相较于现有技术在 BP4D 和 DISFA 数据集上，该方法平均提高 13％和 25％的检测准确率，取得了显著的性能提升。

    Apr, 2017

  • 从未剪辑的视频中识别不确定动作

    本文提出了一种基于视频级别标签进行训练的视频动作识别模型，该模型利用大型图像数据集中训练的逐帧人物检测器，在多实例学习框架内实现。此外，我们使用新的概率多实例学习方法来估计每个预测的不确定性，并在 AVA 数据集上取得了第一个弱监督结果，在 UCF101-24 上获得了弱监督方法的最新成果。

    Jul, 2020

  • 对抗检测：实时攻击目标检测

    本研究提出了第一种实时在线攻击物体检测模型的方法，通过构造虚假物品边界框等三种攻击方式对物体检测模型进行攻击，成功率高达 90％，适用于动态环境中，并提供了演示视频。

    Sep, 2022

  • 提高深假脸检测器的跨数据集泛化能力

    本研究使用深度强化学习与卷积神经网络相结合，设计了一种新的深度伪造检测算法，通过统计每张测试图像的各种增强方法的分类分数来检测深度伪造的图片，实验证明该方法在跨数据集的泛化性能方面优于现有的模型，并获得最先进的性能。

    Apr, 2022