Jul, 2022

使用互信息来探索卷积神经网络的对抗性样本和对抗性鲁棒性

PDF
TL;DR本文研究标准训练 CNN（NT-CNN）和对抗训练 CNN（AT-CNN）在信息提取方面的相似点和不同点，发现对抗训练虽然更加困难，但能使得 CNN 更鲁棒，且能提取形状为主的信息，呈现出互信息随时间递增而递增的趋势。
convolutional neural networksadversarial trainingmutual informationtexture-based informationshape-based information
发现论文，激发创造
  • 对抗训练卷积神经网络的解释

    本研究提出系统性的方法，以定性和定量的方式解释如何使用对抗性训练卷积神经网络 (AT-CNNs) 识别物体，并发现对抗训练有助于 CNNs 学习更具形状偏向的表示。通过分析一个额外的测试数据集，证明对比标准 CNNs，AT-CNNs 更加稳健，从解释学的角度促进了人们对 CNNs 的理解。

    May, 2019

  • 风格化对抗防御

    利用目标样本的样式和内容信息以及其类边界信息创建对抗性扰动，将其应用于多任务目标并进行深度监督，提取多尺度特征知识以创建最大分离对手，随后提出最大间隔对抗训练方法，最小化源图像与其对手之间的距离，并最大化对手和目标图像之间的距离，证明与最先进的防御相比，我们提出的对抗训练方法表现出强大的鲁棒性，对自然出现的损坏和数据分布变化具有良好的泛化能力，并保留了模型在干净样本上的准确性。

    Jul, 2020

  • 掩模与混淆对抗训练

    本文提出一种名为 M2AT 的方法来提高卷积神经网络（CNN）对抗攻击的鲁棒性，该方法包括掩蔽和混合对抗训练（M2AT）两个过程，其通过制造多样的对抗样本来缓解模型准确性与鲁棒性的平衡问题，并在 CIFAR-10 数据集上得到了比之前方法更好的对抗攻击鲁棒性。

    Feb, 2023

  • 对抗变换网络：学习生成对抗性样本

    本文提出了一种名为对抗变换网络（ATN）的新方法，其快速执行并提供出色的输出多样性，并在多个分类器上分析了其有效性。该方法旨在通过对简陋的模拟数据进行自我监督训练，生成最小化修改分类器输出的对抗性示例，同时限制新分类器以匹配对抗性目标类别。

    Mar, 2017

  • 对抗训练对基于不变性的对抗样本的影响

    本研究探讨了针对卷积神经网络的不变性敌对样本进行对抗训练的影响，发现在敌对训练时同时使用基于扰动和基于不变性的敌对样本可以取得较高的鲁棒性。

    Feb, 2023

  • 通过输入转换、防御扰动和投票检测对抗性样本

    本文探讨在可对抗的变形情况下检测对抗攻击，并提出一种名为 defense perturbation 的新方法来检测具有相同输入变换与可靠的对抗攻击。同时介绍了多网络对抗例子，这种对抗例子可以同时欺骗多个网络。

    Jan, 2021

  • 恶意软件检测中的对抗样本探索

    研究卷积神经网络在恶意软件检测中的应用，探索对抗样本在该领域中的影响，发现之前的攻击不如之前报告的那么有效，同时还存在架构上的弱点，容易遭受新的攻击策略，继而探讨了攻击策略的可变性、提高攻击有效性的权衡以及单步攻击的可转移性。

    Oct, 2018

  • 对基于 CNN 的图像取证的对抗样本可转移性研究

    本文探索了在图像取证应用程序中，攻击是否具有传递性，并证明在大多数情况下攻击是不可传递的，至少当攻击者不完全了解目标检测器时，可以简化适当的对策设计。

    Nov, 2018

  • A3T：对抗性增强的对抗性训练

    本文介绍了一种通过强制表示不变性来提高深度神经网络对抗攻击鲁棒性的方法，并比较其与其他标准对抗训练方法的可行性。

    Jan, 2018

  • 对抗样本是噪声下测试误差的自然结果

    该研究提供了实证和理论证据表明对抗鲁棒性和图像损坏鲁棒性研究项目之间存在紧密联系，从而建议未来的对抗性防御应该考虑评估它们的方法对分布转移的鲁棒性。

    Jan, 2019