ECCVJul, 2020

连接点：利用语境不一致性检测敌对扰动

PDF
TL;DR本研究提出了一种基于上下文一致性规则学习的深度神经网络攻击检测方法，通过建立了一组自动编码器来检测违反上下文一致性规则的对抗扰动，实验证明该方法可以有效检测各种对抗攻击。
adversarial perturbationsdeep neural networkscontext consistency rulesauto-encodersadversarial attacks
发现论文，激发创造
  • 利用多物体关系检测复杂场景中的对抗攻击

    通过使用语言模型，我们开发了一种新方法来检测图像义务的一致性，即在自然场景的语言描述中捕捉物体共现关系，这种方法不仅适用于特定模型，而且对于多个物体的实际场景中检测对抗性样本具有非常高的精度。

    Aug, 2021

  • 上下文感知目标检测器的零查询转移攻击

    通过使用零查询方案、设计新的数据结构、利用及定义的概念、实现线索较弱的检测来生成背景一致的对抗性攻击，能够有效地规避自然多物体场景中的黑盒目标检测器，并提高攻击成功率。

    Mar, 2022

  • 检测对抗性扰动

    本文提出一种方法，在深度神经网络中增加一个小的 “检测器” 子网络，用于区分含有敌对扰动的假数据和不包含敌对扰动的真数据的二元分类任务，并证明其能够有效检测和对抗敌对扰动攻击。

    Feb, 2017

  • 利用上下文不一致性进行多专家对抗攻击检测的人员再辨识

    本文提出一种基于多专家的对抗攻击检测方法 (MEAAD)，通过检查上下文不一致性来实现对于基于深度神经网络的 ReID 系统的攻击检测，并在 Market1501 和 DukeMTMC-ReID 数据集上进行了实验，在第一个 ReID 的对抗攻击检测方法中被证明可以有效地检测各种攻击，并达到高的 ROC-AUC（超过 97.5%）。

    Aug, 2021

  • 人脸识别领域中卷积神经网络的对抗性攻击

    本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

    Jan, 2020

  • 对抗性对齐：打破攻击强度和其对人类感知的相关性之间的权衡

    通过研究和比较多种神经网络，本文发现随着图片识别准确度的提高，对抗性攻击虽然越来越容易使模型改变分类决策，但同时攻击的特征也越来越远离与人类视觉识别相关的特征，即使人工以同样方式造成的影响。而通过神经协调器网络的训练，可以使神经网络更加接近人类视觉识别应有模式，从而提高对抗性攻击下的鲁棒性。

    Jun, 2023

  • 检测来自伪像的对抗性样本

    本文介绍了一种利用深度学习神经网络中 Bayesian 不确定性估计和密度估计的方法，可以实现对于对抗样本的检测，具有很好的泛化性能，并在标准分类任务上取得了 85-93% 的 ROC-AUC 表现。

    Mar, 2017

  • 利用对抗对比学习提高目标检测器对常见干扰的鲁棒性

    该研究提出了一种创新的对抗对比学习框架，通过生成实例级对抗样本和优化对比损失，增强了神经网络对抗攻击和常见扭曲的鲁棒性，同时通过对比学习增强了干净样本与对抗样本之间的相似性，从而使得表示具有对抗攻击和常见扭曲的抵抗力。通过改善对抗和实际应用条件下的性能，该方法旨在增强神经网络在安全关键应用中的鲁棒性，如自主车辆在不可预测的天气条件下行驶。我们预计这个框架将有助于提高神经网络在具有挑战性环境中的可靠性，促进其在任务关键场景中的广泛应用。

    Nov, 2023

  • 针对目标检测的上下文感知迁移攻击

    本篇研究提出一种基于对象共现和它们相对位置和大小作为上下文信息的上下文感知攻击方法，可成功针对黑盒对象检测器生成有针对性的误分类攻击，并在 PASCAL VOC 数据集上实现高达 20% 以上的性能提升。

    Dec, 2021

  • 基於上下文區分對比學習的時間序列異常檢測

    针对时间数据中的异常检测问题，提出了一种新的方法，借鉴了 DeepSVDD 的损失函数，结合了 Neutral AD 的确定性对比损失，提高了在实际工业数据集中的性能表现。

    Apr, 2023