Oct, 2023

机器学习中图像伸缩攻击的检测

PDF
TL;DR图像缩放是机器学习和计算机视觉系统中的重要组成部分，然而，这一预处理步骤容易受到所谓的图像缩放攻击的影响。本文首次对图像缩放攻击的检测方法进行深入系统化和分析，提出了两种普遍的检测范例，并从中推导出简单但在设计上明显优于以前方法的新方法。通过全面评估所有主要学习平台和缩放算法，我们证明了这些方法的有效性。因此，我们可引入一种新的保护层来抵御图像缩放攻击。
image scalingmachine learningcomputer visionscaling attacksdetection methods
发现论文，激发创造
  • 利用图像缩放攻击植入后门和毒化神经网络

    本文提出了一种新的策略，旨在通过利用图像缩放攻击来隐藏后门和毒化攻击，并探讨了检测图像缩放攻击的防御。同时证明了该策略对各种毒化方案都可行，但现有的检测防御措施不足以揭示我们的操作。

    Mar, 2020

  • ScAR: LiDAR 物体检测的对抗鲁棒性扩展

    通过分析 KITTI、Waymo 和 nuScenes 等 3D 物体检测数据集的统计特征，我们发现模型对 3D 实例的缩放非常敏感，为此，我们提出了一种黑盒 Scaling Adversarial Robustness (ScAR) 方法用于 LiDAR 物体检测，并引入了针对可用信息的三种黑盒缩放对抗攻击方法，即模型感知攻击、分布感知攻击和盲攻击，同时提出了一种生成缩放对抗样本的策略以提高模型对这三种缩放对抗攻击的鲁棒性，通过在不同的 3D 物体检测架构下在公共数据集上与其他方法进行比较，验证了我们提出方法的有效性。

    Dec, 2023

  • 防御物理可行的图像分类攻击

    本篇研究论文主要探讨了如何有效防御基于图像分类的深度神经网络攻击。通过研究两种最常见的防御方法，我们发现这些方法对于三种最高危物理攻击的防御效果较差。因此我们提出了一种新的抽象对抗模型，矩形遮挡攻击，并且开发了两种计算结果的对抗样本的方法。最后，我们通过新的模型进行对抗训练，证明了这一方法是一种高效的通用防御策略。

    Sep, 2019

  • 揭示异常：保护图像分类免受对抗性贴纸攻击

    我们提出了一种防御机制，利用聚类技术 DBSCAN 来分离异常图像片段，并通过三阶段流程对敌对噪声进行定位和减轻，进而中和其效果。该防御机制在多个模型和数据集上验证，证明其在对抗性贴片攻击中的有效性，显著提高了准确性。

    Feb, 2024

  • 尺度至上 -- 自适应缩放的高效文本检测

    通过基于分割网络的特征估计方法，实现对图像文本的快速准确定位和检测，并在 ICDAR15 和 ICDAR17 MLT 基准测试中取得了很好的性能表现。

    Jul, 2019

  • 可转移的对抗性攻击图像篡改定位

    本文提出了一种对现有数字图像篡改定位算法进行真实世界应用安全性评估的对抗性攻击方案，通过基于优化和梯度的敌对示例的白盒和黑盒攻击来揭示这种篡改定位器的可靠性，从而准确预测篡改区域并保持高视觉质量的同时，大大降低了定位精度。

    Sep, 2023

  • 智能电网攻击检测的机器学习方法

    本文在智能电网攻击检测问题中，运用机器学习算法，以统计学习方法建立攻击检测框架。通过对攻击向量的统计和几何学属性的分析，检验算法在 IEEE 测试系统上的性能，实验结果表明，机器学习算法能够检测出攻击的性能比在攻击检测框架中使用状态向量估计方法的算法具有更高的表现。

    Mar, 2015

  • 皮肤癌分类的对抗攻击与防御

    该论文研究了针对皮肤镜像中皮肤边缘检测分类的卷积神经网络的敌对攻击技术，以及对抗训练的防御技术对其鲁棒性提升的效果。

    Dec, 2022

  • 检测对抗样本的早期方法

    本研究使用三种方法检测机器学习分类器所遭受的对抗性扰动，其中最佳检测方法显示对抗性图像在 PCA 下的低排名主要成分上存在异常强调。

    Aug, 2016

  • 工控系统中机器学习网络安全防御的对抗攻击

    该研究探讨了如何使用对抗性学习通过生成基于 Jacobian 的显著性图攻击的对抗性样本以及探索分类行为，从而攻击监督模型。该分析还包括如何使用对抗性训练来支持监督模型的鲁棒性。随着对抗性样本的出现，两个广泛使用的分类器 —— 随机森林和 J48 的分类性能分别降低了 16 和 20 个百分点，但训练后它们的性能得到提高，证明了它们对这种攻击的鲁棒性。

    Apr, 2020