ECCVDec, 2017

通过随机自集成实现鲁棒神经网络

PDF
TL;DR本文提出了一种名为 RSE 的新型防御算法，利用随机性和集成两个重要概念，通过向神经网络中添加随机噪声层以防止强梯度攻击，并对随机噪声预测进行集成以稳定性能，从而保护目标模型。该算法在真实数据集上表现非常优异，能够有效防御对神经网络的攻击。
neural networkdefense algorithmrandomnessensembleadversarial perturbation
发现论文，激发创造
  • 层次随机切换保护神经网络：实现更好的稳健 - 准确性平衡，提高随机防御性能

    该研究论文提出了一种新的防御方法 —— 分层随机切换（HRS），旨在在减小对合法数据性能损失的同时提高对抗性的鲁棒性，取得更好的防御效果。作者通过实验证明，相比于目前的随机网络防御方法，HRS 在对抗攻击的防御、抵御对抗性程序、提高数据通量等方面都具有更明显的优势，并取得了 5 倍以上的有效性提高。

    Aug, 2019

  • 深度神经网络对抗扰动的防御方法：集成学习

    采用集成方法作为防御策略可增强神经网络在 MNIST 和 CIFAR-10 数据集中对于对抗扰动的鲁棒性。

    Sep, 2017

  • 自组合对抗训练提高鲁棒性

    本文提出了一种简单而强大的自我整合对抗训练方法 (SEAT)，通过在训练数据池中加入对抗样本来提高目标模型的鲁棒性，并通过历史模型的权重平均值产生一个健壮的分类器，该方法比起其他防御策略在各种对抗攻击下提高了很多的鲁棒性

    Mar, 2022

  • 随机集成的对抗性漏洞

    本文介绍了在深度学习领域中，随机集合相较于标准对抗训练具有更强的鲁棒性，而本文提出的理论框架证明了该观察结果的可靠性，同时改进的对抗攻击算法也被提出。

    Jun, 2022

  • 数量大于强度：通过对抗训练的集合优化鲁棒性和计算效率

    通过对对抗样本的数据增广训练神经网络模型，以提高模型的抗干扰性，并发现通过将小型模型构成的集成模型一起进行对抗训练相比使用单个大模型的训练更有效。而重点在于对整个集成模型的对抗训练，而不是只对每个模型进行对抗训练。

    Nov, 2018

  • 使用集成网络和噪声层实现鲁棒深度学习

    本篇论文提出了一种深度学习方法，可以在图像分类类型的网络中保护并提高其鲁棒性，同时实现了准确性和鲁棒性的平衡，通过实验验证了该方法的有效性和鲁棒性保障。

    Jul, 2020

  • 通过随机替换编码技术防御词级对抗攻击

    本文研究深度神经网络在自然语言处理任务中遭受对抗攻击的问题，并提出一种名为随机替换编码（Random Substitution Encoding，RSE）的新型防御框架，该框架可以有效保护文本分类任务免受单词级别对抗攻击。

    May, 2020

  • 用于鲁棒自监督表示学习的多样化独立子网络集合

    通过使用多个独立的子网络组成的集成模型来提高模型性能和可靠性，并通过新的损失函数鼓励模型之间的多样性，在保持计算效率的同时，有效地改善模型的不确定性估计。在计算机视觉、自然语言处理和基因组数据等多个领域的广泛实验中，我们的方法在预测可靠性方面取得了显著改善。

    Aug, 2023

  • 在对抗性环境下重新审视集成：提高自然精度

    为了提高深度学习模型在实际应用中对小型对抗扰动的抵抗力和非恶意输入的准确性，我们考虑了一些集成方法，关键洞见在于训练模型以抵御小型攻击的模型在集成时可以承受更大的攻击，并且可以通过这个概念来优化自然准确性。我们考虑了两种方案，一种是从几个随机初始化的强韧模型中组合预测，另一种则是将强韧模型和标准模型的特征进行融合。

    Feb, 2020

  • 利用 Feynman-Kac 形式的 ResNets 集成来提高自然和鲁棒的准确性

    提出了一种基于传输方程最优控制理论的 ResNets 集合算法，该算法通过给每个残差映射的输出添加方差指定的高斯噪声的方式修改基本 ResNets 算法，并通过平均多个经过联合训练的修改后的 ResNets 产生的预测结果来提高抵抗 IFGSM 攻击的模型的预测准确率，该算法在 CIFAR10 基准测试中表现出相对于当前领先的防御 IFGSM 攻击的模型而言更高的训练鲁棒性以及自然准确性。

    Nov, 2018