Feb, 2021

基于通道重要性特征选择的 CNN 敌对鲁棒性改善

PDF
TL;DR通过比较没有鲁棒性的 CNN（一般训练）和有鲁棒性的 CNN（对抗性训练），我们从通道层面研究了 CNN 的对抗性鲁棒性，发现对抗性训练通过使对抗数据与相应的自然数据的通道层次之间对齐来增强 CNN 的鲁棒性，并且引入 CIFS 机制进一步压制了对预测贡献不利的通道并增加了对预测贡献有益的通道。
adversarial trainingcnnschannel-wise activationsrobustnesscifs
发现论文，激发创造
  • 通过通道级激活抑制来提高对抗性鲁棒性

    本文从渠道角度分析对抗 perturbations 特性，提出了一种基于通道的抑制策略 (CAS) 用于训练一个本质上抑制对抗激活的模型，进一步改善现有防御方法的鲁棒性。

    Mar, 2021

  • 调查和揭示卷积神经网络对对抗扰动的特征级漏洞

    通过对深度学习模型的不同层进行敌对性扰动攻击验证，研究表明浅层的通道组合对模型的干扰较大，在不同攻击类型中具有共享的易受攻击通道组合，而不同攻击对隐藏表示的影响存在差异且与卷积核大小呈正相关，以此为基础为未来应用开发高效的应对性防御机制奠定技术基础。

    May, 2024

  • 基于分组抑制的特征正则化方法用于鲁棒分类

    提出了一种使用组间抑制（group-wise inhibition）的卷积神经网络（CNN）正则化方法，通过处理具有不同激活分布的特征映射来考虑特征独立性，以实现对于严峻环境如腐败、对抗样本和低数据区域的稳健分类。

    Mar, 2021

  • 针对对抗训练的自适应特征对齐

    本文提出了自适应特征对齐的方法，通过预测双 BN 结构中的融合权重，不引入任何超参数，且在不牺牲模型标准精度的情况下，有效地提高了模型的鲁棒性，并且在 CIFAR-10、SVHN 和 tiny-ImageNet 数据集上全面超越了现有的技术。

    May, 2021

  • 基于分类损失和特征重要性的通道剪枝指导

    本论文提出了一种新的分层通道剪枝方法 CPLI，它考虑了分类损失和特征重要性，并进一步改进了现有的方法，通过新策略抑制不重要特征的影响，并在三种基准数据集（CIFAR-10，ImageNet 和 UCF-101）上取得了显著的效果。

    Mar, 2020

  • 特征分离和重新校准的对抗鲁棒性

    本文提出了一种名为特征分离与校准 (FSR) 的新方法，通过分离和校准恶意、非鲁棒激活，为更强大的特征映射重新校准，以捕获正确模型预测所需的潜在有用线索，相较于传统的去激活技术，实验表明 FSR 不仅提高了现有对抗训练方法的健壮性，而且对计算开销很小。

    Mar, 2023

  • 基于对比特征对齐的不变表示学习用于抗干扰 SAR 目标识别

    该研究提出了一种名为对比特征对齐 (CFA) 的解决方案，旨在学习具有稳健性的不变表示形式，通过联合分类损失和通道加权平均平方误差 (CWMSE) 损失来训练模型，以获得逐步学习不变目标表示的能力，该方法在 MSTAR 数据集和六种 DNN 模型上得到了广泛评估，并成功证明其在不熟悉的环境中识别目标的效能

    Apr, 2023

  • 稳健原则：对抗稳健 CNN 的架构设计原则

    我们研究的目标是统一现有作品在架构组件如何影响 CNN 的对抗鲁棒性方面的分歧意见。为了实现我们的目标，我们综合了三个可推广的鲁棒架构设计原则：(a) 深度和宽度配置的最佳范围，(b) 优先使用卷积而非拼贴块的初始阶段，和 (c) 通过采用挤压和激励块以及非参数平滑激活函数的鲁棒残差块设计。通过在广泛的数据集规模、对抗训练方法、模型参数和网络设计空间上进行大量实验证明，我们的原则始终显著提高 AutoAttack 的准确性：CIFAR-10 和 CIFAR-100 上为 1-3 个百分点 (pp)，ImageNet 上为 4-9 个百分点 (pp)。代码可以公开访问该 URL。

    Aug, 2023

  • 使用对称激活函数增强卷积神经网络稳健性

    该研究论文提出使用对称激活函数（SAF）改善深度卷积神经网络（CNN）对类似于对抗样本的干扰输入的鲁棒性，并通过实验证明在 MNIST 和 CIFAR-10 数据集上该方法显著提高了 CNN 在对抗和非意义样本上的分类精度。

    Mar, 2016

  • 使用互信息来探索卷积神经网络的对抗性样本和对抗性鲁棒性

    本文研究标准训练 CNN（NT-CNN）和对抗训练 CNN（AT-CNN）在信息提取方面的相似点和不同点，发现对抗训练虽然更加困难，但能使得 CNN 更鲁棒，且能提取形状为主的信息，呈现出互信息随时间递增而递增的趋势。

    Jul, 2022