IJCAIAug, 2019

层次随机切换保护神经网络：实现更好的稳健 - 准确性平衡，提高随机防御性能

PDF
TL;DR该研究论文提出了一种新的防御方法 —— 分层随机切换（HRS），旨在在减小对合法数据性能损失的同时提高对抗性的鲁棒性，取得更好的防御效果。作者通过实验证明，相比于目前的随机网络防御方法，HRS 在对抗攻击的防御、抵御对抗性程序、提高数据通量等方面都具有更明显的优势，并取得了 5 倍以上的有效性提高。
deep neural networksadversarial perturbationsstochastic network defensesdefense efficiency scorehierarchical random switching
发现论文，激发创造
  • 通过随机自集成实现鲁棒神经网络

    本文提出了一种名为 RSE 的新型防御算法，利用随机性和集成两个重要概念，通过向神经网络中添加随机噪声层以防止强梯度攻击，并对随机噪声预测进行集成以稳定性能，从而保护目标模型。该算法在真实数据集上表现非常优异，能够有效防御对神经网络的攻击。

    Dec, 2017

  • 对抗鲁棒性的随机化：善、恶与丑

    本研究探讨了深度神经网络面临的对抗攻击问题，提出了随机分类器作为确定性分类器的强大替代品，并且通过实验证明，集成分类器比混合分类器更具抗干扰性。

    Feb, 2023

  • 在随机初始化的网络中发现具有先天强健性的子网络来制作健壮的刮刮卡

    该研究发现随机初始化的 DNN 中存在天生的稳健的子网络，其稳健准确性可以匹配或超过与之相似的经过敌对性训练的网络，从而进一步建立了关于模型稳健性的新视角并扩展了 Lottery Ticket Hypothesis。

    Oct, 2021

  • 统计鲁棒神经网络分类

    为了解决在某些场景下对抗风险无法提供适当的强健度度量的问题，我们开发了一个概率强健风险框架（SRR），它考虑到逐点损坏分布而不是最坏情况下的对手。我们展示了 SRR 的评估和训练方案与自然风险相当简单且高效，能提供优秀的泛化性能，适用于高维数据集。

    Dec, 2019

  • 利用特征级随机平滑提高对抗鲁棒性

    通过引入随机性提高神经网络决策边界的平滑性并排除低置信度的预测，从而提高对抗样本的鲁棒性，并结合对抗检测方法以实现更好的效果。

    Jun, 2023

  • 随机激活剪枝的鲁棒性对抗防御

    通过开发深度神经网络中的混合策略，并将其形式化为博弈论的最小值零和博弈，我们提出了随机激活修剪（Stochastic Activation Pruning，SAP），并证明它能够提高深度学习系统对抗性攻击的鲁棒性。

    Mar, 2018

  • 通过随机替换编码技术防御词级对抗攻击

    本文研究深度神经网络在自然语言处理任务中遭受对抗攻击的问题，并提出一种名为随机替换编码（Random Substitution Encoding，RSE）的新型防御框架，该框架可以有效保护文本分类任务免受单词级别对抗攻击。

    May, 2020

  • 深层神经网络的层级对抗鲁棒性的提升

    介绍了一种分类网络设计 -- 分层敌对强韧网络（HAR），将分类任务分解成一个粗分类和多个细分类任务，在经过敌对防御技术的有针对性训练后，极大地提高了神经网络对层次攻击的强度，实验表明对 CIFAR 数据集 L2 和 L∞有显著改进。

    Feb, 2021

  • 通过数据集随机化中和对抗性攻击

    本文通过使用超空间投影来提出了一种新的针对图像分类器的通用防御机制，可以提高深度学习模型对抗攻击的鲁棒性，实验结果显示通过优化攻击和生成对抗攻击测试其在 MNIST 数据集上的成功率可以至少减少 89% 和 78%。

    Jun, 2023

  • 理解随机特征防御对基于查询的对抗攻击的鲁棒性

    通过在中间层的模型中添加随机噪声，我们提出了一种简单轻量级的防御方法，可以有效增强模型对黑盒攻击的鲁棒性，并且对准确率影响较小。

    Oct, 2023