ICCVMar, 2017

语义分割和分类的自我纠正扰动

PDF
TL;DR本篇论文探究了卷积神经网络中的一种新行为：通过结构化扰动输入，预训练的 CNN 可以改善其预测性能，这种扰动被称为 Guided Perturbations。实验结果表明，这种方法可以提高现有方法在语义分割和场景标注任务上的性能，并且可以应用于 MNIST 和 CIFAR10 等数据集上的分类任务。
发现论文，激发创造
  • 微扰神经网络

    本文介绍了一种名为扰动层的替代卷积层的模块，通过实验证明这种扰动层可以有效地替代传统的卷积层，在多个视觉数据集上与标准 CNNs 性能相当，且拥有更少的参数。

    Jun, 2018

  • 调查和揭示卷积神经网络对对抗扰动的特征级漏洞

    通过对深度学习模型的不同层进行敌对性扰动攻击验证，研究表明浅层的通道组合对模型的干扰较大，在不同攻击类型中具有共享的易受攻击通道组合，而不同攻击对隐藏表示的影响存在差异且与卷积核大小呈正相关，以此为基础为未来应用开发高效的应对性防御机制奠定技术基础。

    May, 2024

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 生成对抗扰动

    该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

    Dec, 2017

  • 针对语义图像分割的通用对抗扰动

    本篇论文探究如何通过生成普遍的对抗扰动，使卷积神经网络的语义图像分割结果变为预设的结果，同时还研究了去除语义图像中某个目标类别的扰动。

    Apr, 2017

  • 深度学习文本分类算法对实际输入扰动的敏感性研究

    本文研究基于深度学习的文本分类模型（CNN、LSTM 和 BERT）在面对有意义但与最终性能无关的输入扰动（如标点符号和停用词）时的表现，发现包括 BERT 在内的这类模型都很敏感，特别是对于输入扰动的删除尤其受影响。

    Jan, 2022

  • 对抗通用扰动防御

    本文提出了一个 Perturbation Rectifying Network (PRN) 框架，通过学习实际和合成的图像通用扰动，和在 PRN 的输入和输出差异的离散余弦变换上独立训练的检测器，从而有效地保护深度学习网络免受任何图像的通用对抗性扰动的影响。

    Nov, 2017

  • 语义图像分割的对抗性样本

    本文探讨了机器学习和深度神经网络在语义分割任务上遭受对抗性干扰的问题，证实了对抗性攻击对该任务也具有显著影响，可以通过不可察觉的对抗性扰动诱导深度神经网络对某一类别像素的错误分类而几乎不影响该类别以外像素的分类。

    Mar, 2017

  • 深度神经网络的特征层级增强提高仿射变换鲁棒性

    本文提出了在中间神经网络层引入数据增强以改善卷积神经网络不适用于少量像素旋转或平移的问题，并证明该方法比已有的两种方法获得更好的精度和平均翻转比。

    Feb, 2022

  • 关于基于机器学习的拥塞预测器对有效且几乎不可察觉的扰动的鲁棒性和泛化能力

    在机器学习和电子计算机辅助设计流程中尤其是基于深度学习的方法的广泛应用引起了广泛的关注。然而，最近的研究表明神经网络对其输入的微小、精心选择的扰动（例如图像中的一个像素变化）通常具有脆弱性。本研究通过探索机器学习基础的 EDA 工具的拥塞预测等方面的鲁棒性来解决这一问题，并提出了一种新的不可察觉性概念，通过保证布局扰动不改变其全局路径来对其进行定义，并实现了对这些扰动的鲁棒性训练技术。结果表明，在整合神经网络机制进入 EDA 流程时，CAD 工程师需要谨慎以确保获得稳健且高质量的结果。

    Feb, 2024