gradient masking | BriefGPT

关键词gradient masking

搜索结果 - 8

修复一行代码破解 Sabre 漏洞
通过揭示在评估过程中的明显的梯度掩蔽问题和代码中的漏洞，我们展示了防御对抗性样本的 Sabre 算法的缺陷，并通过修复一个代码错误，将其鲁棒准确率降至 0%。作者通过修改算法引入新的防御组件以应对此问题，但修复过程中出现了第二个错误，进一步
PDF2 months ago
通过全卷积和可微分前端与跳跃连接对梯度攻击表现出卓越的韧性的一个奇特案例
通过使用前端增强神经模型，结合差分和完全卷积模型以及跳跃连接，该研究找到了一种对梯度攻击具有异常抵抗力的模型，并通过组合模型构成随机化集成以提高抵抗力，该方法对于展示模型的鲁棒性十分重要。
PDF4 months ago
基于局部直方图均衡化的增强图像差异特征对抗样本检测
基于高频信息增强策略，提出了一种针对对抗性样本的检测框架，可以在不修改现有检测模型的情况下，提高检测器的性能和降低部署成本。
PDFa year ago
单步对抗训练正则化方法
该论文提出了三种新的正则化方法，用于单步对抗训练，以解决模型的伪鲁棒性问题，并在机器学习、计算机视觉等领域取得与经过复杂多步训练的模型相当的性能。
PDF4 years ago
神经网络对抗鲁棒性的有用分类法
深度学习领域的对抗攻击和防御是目前研究的活跃领域。本文针对防御方法进行分类，提出了不同的分类方法：通过增加特征向量的类内紧凑性和类间分隔性来提高对抗鲁棒性，减小或移除非鲁棒图像特征来提高对抗鲁棒性。通过这种重新构架话题的方式，提供了新的视角
PDF5 years ago
快速自适应边界攻击生成最小扭曲的对抗样本
本文提出了一种新的基于 $l_p$-norms 的白盒对抗攻击方法，通过最小化扰动的大小来改变特定输入的类别，这个方法具有几何直观性，是一种性能优越的攻击方法，比专门针对一个 $l_p$-norm 的攻击方法具有更好的鲁棒性，并且可以解决梯
PDF5 years ago
梯度掩码导致 CLEVER 高估对抗扰动的大小
本报告提出的 CLEVER 评分方法虽可估计出较低的对抗扰动阈值，但其受攻击方法的常见问题 —— 梯度掩盖 —— 的影响而过高估计扰动大小，未能解决攻击方法所面临的关键问题。
PDF6 years ago
ICML隐匿的梯度给了虚假的安全感：绕过对抗样本的防御
本文发现了一种称为 “混淆梯度” 的梯度掩码现象，该现象导致了对抗性攻击防御中的安全虚假感。通过针对这种现象的攻击技术研究，我们发现依赖于混淆梯度的防御可以被规避，因此需要更可靠的防御机制。
PDF6 years ago