AAAIFeb, 2022
深度学习模型的整体对抗鲁棒性
Holistic Adversarial Robustness of Deep Learning Models
Pin-Yu Chen, Sijia Liu
TL;DR该研究论文综述了深度学习模型对抗鲁棒性的研究主题和基本原则,包括攻击、防御、验证和新应用。
Abstract
adversarial robustness studies the worst-case performance of a machine
learning model to ensure safety and reliability. With the proliferation of
deep-learning-based technology, the potential risks associated with model
development and deployment can be amplified and become dreadful
vu
发现论文,激发创造
面向对抗攻击具有抵抗能力的深度学习模型
通过稳健优化方法探究神经网络对抗攻击的鲁棒性,设计出对抗攻击和训练模型的可靠方法,提出对于一阶对手的安全保证,并得到针对广泛对抗攻击的高鲁棒性网络模型。
Jun, 2017
对抗鲁棒性基准测试
本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性,通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验,全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。
Dec, 2019
深度学习中对抗鲁棒性的机遇与挑战:综述
本篇研究通过分类对抗性攻击和防御方法,提出三类半定界数理优化问题,即对抗 (再) 训练、正则化方法和认证防御,并调查了最近的研究成果和挑战以及展望未来的发展。
Jul, 2020
对抗训练在对抗鲁棒性方面的最新进展
该研究论文系统地回顾了针对深度学习模型的对抗训练在对抗鲁棒性方面的最新进展,并从三个视角讨论了对抗训练中的泛化问题,同时指出了尚未完全解决的挑战并提出潜在的未来研究方向。
Feb, 2021
对抗性样本的(不)可避免性
该研究提出了一个确定深度学习模型标签更改是否合理的框架,并且定义了一个自适应的鲁棒性损失,使用导出的经验公式,开发了相应的数据增强框架和评估方法,证明了其对确定性标签下的一阶最近邻分类的维持一致性,并提供了实证评估结果。
Jun, 2021
建立稳健模型的简单结构
通过添加一个用于协作训练的对抗样本检测网络和设计一种新的数据采样策略,我们建议了一个简单的架构来构建具有一定鲁棒性的模型,该模型能够适应许多不同的对抗攻击,并针对 Cifar10 dataset 的实验表明这种设计对模型的鲁棒性具有积极影响。
Apr, 2022
无监督机器学习中对抗鲁棒性:一项系统综述
本文通过系统的文献综述,收集了 86 篇相关文献。结果表明,大多数的研究都集中在隐私攻击上,虽然有有效的防御手段,但是很多攻击缺乏有效和普适的防御措施。基于这些结果,我们提出了针对无监督学习攻击的模型,为未来的研究提供了一个可供使用的模型。
Jun, 2023