CARBEN: 组合对抗鲁棒性基准测试
本文提出了一种新的过程,称为复合对抗攻击,在候选攻击者池中自动搜索最佳攻击算法和超参数的组合,运用多目标 NSGA-II 遗传算法寻找最强的攻击策略,并在 3 种不同类型的对抗攻击方案上达到了新的最高水平。
Dec, 2020
本文提出了一种新的生成组合对抗样本的方法和一种广义对抗训练方法,能够实现模型对多种组合语义扰动的鲁棒性,包括色调、饱和度、亮度、对比度和旋转等,并在 ImageNet 和 CIFAR-10 数据集上具有显著性能优势。
Feb, 2022
为了建立标准化的对抗性鲁棒性基准,我们考虑了图片分类任务,并引入了允许的模型限制,使用 AutoAttack 进行评估,同时提供 80 多种鲁棒模型的开源库,分析了鲁棒性对分布偏移、平滑性等性能的影响。
Oct, 2020
本文提出了 PointCA,一种针对三维点云完形模型的对抗攻击方法,在考虑几何空间和特征空间的情况下定制扰动约束,令对抗点云的几何智能和分布自适应性得到提高。通过对不同点云完成网络的广泛实验,表明了 PointCA 攻击使得性能降低了约 60%,且结构 chamfer 距离低于 0.01。作者总结了现有的完形模型严重容易受到对抗样本的影响,并且点云分类的最新防御措施不适用于不完整和不均匀的点云数据。
Nov, 2022
针对深度表格模型的健壮性评估和对抗攻击的研究,提出 CAA 对约束表格深度学习模型进行攻击,构建深度表格模型的健壮性评估基准,为提高深度表格模型在各种对抗攻击场景下的健壮性提供安全实践建议。
Nov, 2023
提出了一种名为 Cybersecurity Adversarial Robustness Evaluation(CARE)平台来全面评估集成对抗性攻击和防御的方法,旨在探讨集成防御是否能够提高模型性能和鲁棒性,对不同类型的攻击有效,并抵御不断调整的自适应攻击。
Jan, 2024
本文提出了一种针对图像分类器集合的迭代式对抗攻击方法,通过此方法,在 CAAD 2018 针对性对抗攻击竞赛中获得第五名,该方法提高了黑匣子对抗攻击的成功率。
Nov, 2018
在本研究中,我们使用 CARLA 模拟器提出了一种创新的即时级别数据生成流程,建立了 Discrete and Continuous Instant-level(DCI)数据集,通过该流程,我们对三个检测模型和三种物理对抗攻击进行了全面实验。我们的研究结果突出了在对抗条件下不同模型的表现,并指出了对抗攻击算法进展可能正在接近其 “限制”。该研究强调了对抗攻击在实际环境中的重要性,并将 DCI 数据集引入作为一个多功能的基准,为提高检测模型的鲁棒性提供了有价值的见解,并为未来在对抗攻击领域的研究提供指导。
Aug, 2023
该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性,并发现只有使用对抗样本进行训练才能获得鲁棒性,并分析了鲁棒性和准确性之间的权衡。
Jun, 2023
我们提出了一种新颖的方法,通过研究个体公平性、对抗鲁棒性和结构因果模型之间的关系,特别是在处理离散敏感属性时,来实现个体公平性、对抗鲁棒性和因果性的综合应用。通过引入新的因果对抗扰动和对抗训练,我们创建了一个将个体公平性、因果性和鲁棒性相结合的新的正则化项,并在真实世界和合成数据集上对我们的方法进行了评估,证明了其在实现公平、对抗鲁棒和因果感知的分类器方面的有效性。
Aug, 2023