May, 2023

光影对深度神经网络健壮性的影响

PDF
TL;DR本文提出了一种带有多个光度级别图像的 Brightness-Variation 数据集，通过实验发现 Deep Neural Network 的性能易受光照变化的影响，并评估了几种鲁棒性训练技术的效果。
deep neural networkadversarial attacksbrightness-variation datasetrobust training techniquesimage classification
发现论文，激发创造
  • 对抗性对齐：打破攻击强度和其对人类感知的相关性之间的权衡

    通过研究和比较多种神经网络，本文发现随着图片识别准确度的提高，对抗性攻击虽然越来越容易使模型改变分类决策，但同时攻击的特征也越来越远离与人类视觉识别相关的特征，即使人工以同样方式造成的影响。而通过神经协调器网络的训练，可以使神经网络更加接近人类视觉识别应有模式，从而提高对抗性攻击下的鲁棒性。

    Jun, 2023

  • 不要盯着太阳看：对图像分类器的敌对太阳化攻击

    对深度神经网络在非分布输入方面的鲁棒性进行评估是至关重要的，我们引入了一种基于图像曝光处理的攻击方法，在多个 ImageNet 模型上全面评估了该攻击方法的能力，并证明了其对准确性的显著降低，尤其是在未集成训练增强情况下。

    Aug, 2023

  • 使用锐视图像训练提高对抗攻击的鲁棒性

    通过图像转换模拟在周边视觉中模糊图像并降低颜色饱和度，研究表明，相比于原始图像，使用该转换的深度神经网络对于敌对攻击以及其他非敌对损坏具有更强的鲁棒性，对扰动数据的准确性高出 25%。

    Aug, 2023

  • 基于阴影自适应攻击的图像去阴影方法对抗鲁棒性评估

    本文提出一种名为阴影自适应对抗攻击的新方法，通过根据阴影图像中不同区域的像素强度调整攻击预算，实现对阴影区域噪声更不可察觉，对非阴影区域扰动更具容忍度，结合该方法对现有阴影去除方法进行全面实证评估。

    Mar, 2024

  • 深度神经网络对未知对抗攻击的健壮性评估

    通过分析正常和对抗攻击样本的深度神经网络表示之间的差异，研究了对抗攻击的鲁棒性和现有防御机制的普适性，并揭示了 L2 和 Linfinity 范数之间的显著差异。

    Aug, 2023

  • 人类与深度神经网络的泛化能力

    通过对三种著名的深度卷积神经网络在十二种不同的图像失真下的实验对比，研究表明，与这三种人工智能算法相比，人类视觉系统在几乎所有的测试图像处理中都更加鲁棒，其误差模式渐行渐远。本文还证明了，利用失真图像直接训练的深度学习神经网络在恰当的测试条件下，表现优于人类。然而，当被分别用于测试不同类型的失真图像时，它们的泛化能力极差，无法适应噪声分布的变化，这成为深度学习视觉系统所面临的关键挑战，可用一种终身机器学习的方法进行系统化解决。

    Aug, 2018

  • 关于形状偏差、准确性和鲁棒性之间关系的澄清

    通过评估 39 种数据增强类型对广泛使用的 OOD 数据集的影响，证明了每种数据增强对模型对 OOD 数据的鲁棒性的影响，并进一步证明了所述假设不成立；形状偏差的增加不一定导致更高的 OOD 鲁棒性。通过分析结果，还发现 ImageNet-1K 数据集中的一些偏差可以通过适当的数据增强来减小。我们的评估结果进一步表明，域内准确性和 OOD 鲁棒性之间不一定存在权衡，选择适当的增强方法可以同时提高域内准确性和 OOD 鲁棒性。

    Jun, 2024

  • 模型压缩深度学习系统在对抗攻击下的安全分析与增强

    通过综合考虑模型重塑和输入扰动，本研究首次探讨了实际模型优化的深度学习系统中的多因素对抗攻击问题，并开发了一种名为 “梯度抑制” 的防御技术，能够有效减轻对软硬件导向深度学习的对抗攻击。

    Feb, 2018

  • 基于结构化深度边缘检测的影子优化

    本文提出了一种基于 CNN 学习的阴影区域恢复框架，利用阴影边缘的本地结构和图像区域的复杂交互来计算阴影 / 明亮度量，进而通过最小二乘优化问题进行阴影恢复，实现了在不同条件下收集的主要阴影基准数据库上的最先进结果。

    May, 2015

  • 图像分类器的鲁棒性和不变性属性

    本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

    Aug, 2022