提出了一个可用于卷积神经网络的一般且高效的框架CNN-Cert以证明鲁棒性, 它通过利用卷积层的特殊结构比现有算法快17倍到11倍,并且在获得相似或更好的证明上限和速度方面超越了最先进的算法。
Nov, 2018
本研究旨在通过特征去噪的方式提高卷积神经网络在对抗攻击下的鲁棒性,实验结果表明这种方法对提高白盒和黑盒攻击下的分类准确率具有一定效果。
Dec, 2018
本文提出了一种新的 Adversarial Training 框架,Robust Local Features for Adversarial Training (RLFAT),旨在更好地利用机器学习中的 Robust Local Features 进行对抗训练,以提高对抗性鲁棒性以及标准泛化能力。
Sep, 2019
深度学习领域的对抗攻击和防御是目前研究的活跃领域。本文针对防御方法进行分类,提出了不同的分类方法:通过增加特征向量的类内紧凑性和类间分隔性来提高对抗鲁棒性,减小或移除非鲁棒图像特征来提高对抗鲁棒性。通过这种重新构架话题的方式,提供了新的视角,深入探讨使网络变得更加强健的潜在因素,启发了更多的解决方案。此外,文献中有一些关于对抗防御成本问题和鲁棒性与准确性之间的权衡的论述,但我们提出的分类方法可以解决这些问题。本文提出了几项挑战,以此推动深度学习研究的进一步发展。
Oct, 2019
本文提出了特征纯化原则,表明在神经网络训练期间,小密集混合物的积累是存在对抗性示例的一个原因,并且对抗性训练的一个目标是通过去除这些混合物来净化神经网络的隐藏权重。
May, 2020
通过比较没有鲁棒性的CNN(一般训练)和有鲁棒性的CNN(对抗性训练),我们从通道层面研究了CNN的对抗性鲁棒性,发现对抗性训练通过使对抗数据与相应的自然数据的通道层次之间对齐来增强CNN的鲁棒性,并且引入CIFS机制进一步压制了对预测贡献不利的通道并增加了对预测贡献有益的通道。
Feb, 2021
本文介绍了目前CNN模型容易受到对抗攻击的困境,提出了一种可以利用隐藏组件LAFEAT进行攻击的算法,并证明该算法不仅计算效率更高,而且比目前现有的防御技术更为强大。这表明模型鲁棒性可能取决于防御者隐藏组件的有效使用,并且不应从整体的角度来看待。
Apr, 2021
本文提出两种新颖的在对抗训练期间注入适当稀疏形式的方法,即:通过利用最近的彩票假设的结果识别早期训练中出现的关键稀疏子网络来实现静态稀疏,以及通过在训练期间使稀疏子网络自适应调整其连接模式(同时保持相同的稀疏比率)来实现动态稀疏,并发现这两种新方法都可以显著缩减稳健泛化差距和减轻过度拟合,同时大大减少训练和推理的FLOPs,实验证明此方法在各种数据集上有着显著作用,包括CIFAR-10/100和Tiny-ImageNet。
Feb, 2022
本文全面综述了深度神经网络在模式识别中的鲁棒性问题,尤其是针对对抗样本的鲁棒性训练方法,从基础概念、理论模型、算法方法等不同角度进行了系统、结构化的调查和讨论。
Mar, 2022
本文通过针对残差网络的架构设计探究在拓扑结构、深度和宽度等方面的影响,设计了一系列RobustResNets,实验证明该网络在多个数据集和对抗攻击中表现出色,达到了AutoAttack鲁棒准确率的最新记录。
Dec, 2022