certified defenses | BriefGPT

关键词certified defenses

搜索结果 - 13

认证 $\ell_p$ 鲁棒性仍然有价值吗？
本文主要讨论了对抗样本的普遍性以及针对此类攻击的防御方法，并着重探讨了局部鲁棒性认证的实际应用和相关价值。
PDF9 months ago
基于扩散模型的认证对抗性容忍度提高
使用最先进的扩散模型生成额外的训练数据可以极大地提高敌对训练的鲁棒性，该方法同样可以明显提高确定性认证防御的鲁棒性，我们还提供了一些建议来扩展认证训练方法的鲁棒性。
PDFa year ago
ScaleCert：具有稀疏浅层的可扩展认证抵御对抗性补丁
提出在高分辨率图像上实现高可证明鲁棒性的认证防御方法，减少敌对区域的搜索开销和过滤预测噪声，从而通过利用重要神经元的本地化性质增强了认证准确性。
PDF3 years ago
AAAISingleProp：通过快速训练的方式生成可证明鲁棒性神经网络
本研究提出一种新的正则化方法，可以更高效地训练神经网络并提高防御对抗攻击的准确性。在 MNIST 和 CIFAR-10 数据集上的实验证明了该方法的有效性。
PDF3 years ago
AAAI最近邻居对数据恶意植入和后门攻击的认证鲁棒性
利用 kNN 和 rNN 内在的多数投票机制可以提供针对数据污染攻击和后门攻击的保护，并且我们的评估结果表明 kNN 和 rNN 的内在保护机制胜过目前最先进的合格防御。
PDF4 years ago
基于随机选择的认证防御数据污染攻击的框架
该论文提出了一种基于随机选择的认证防御体系抵御数据毒化攻击，能通过平均从训练集中抽样的子数据集的分类器预测来实现认证的鲁棒性，该体系允许用户利用训练集和毒化模型的先前知识提高认证准确性，实验表明该方法优于现有技术水平。
PDF4 years ago
深度学习中对抗鲁棒性的机遇与挑战：综述
本篇研究通过分类对抗性攻击和防御方法，提出三类半定界数理优化问题，即对抗 (再) 训练、正则化方法和认证防御，并调查了最近的研究成果和挑战以及展望未来的发展。
PDF4 years ago
CVPR通过随机平滑验证针对后门攻击的鲁棒性
本研究研究证明采用随机平滑技术可用于认证抵御后门攻击的鲁棒性，并探讨了现有方法的局限性，强调需要新的理论和方法来认证抵御后门攻击的鲁棒性。
PDF4 years ago
无限制对抗样本的细粒度合成
本文提出一种新的方法，通过操作图像生成的细节方面生成无限制的对抗性样本，使用最新的生成模型学习样式和随机修改，可用于分类、语义分割和物体检测模型的有目标和非有目标的无限制攻击，并在保证人类可分辨度的前提下，能够成功地规避经认证的防御措施，同
PDF5 years ago
朝着稳定和高效的可验证鲁棒神经网络训练
本文提出了一种名为 CROWN-IBP 的新认证敌对训练方法，该方法结合了快速的 IBP 边界传播和基于紧线性松弛的后向传播，能够高效地提供强大的神经网络分类器，并在 MNIST 和 CIFAR-10 数据集上超过以往所有的线性松弛和边界传
PDF5 years ago
AAAI对抗图像翻译：面部识别系统中的无限对抗样本
利用图像翻译技术生成无限制的对抗样本，欺骗目标脸部识别系统并通过认证防御，实现了攻击成功率约为 90% 和 80% 的结果，同时保持个体的可识别性和感知逼真度。
PDF5 years ago
NIPS对抗性样本鲁棒性的半正定松弛证明
本文提出了一种新的半定松弛办法，用于证明针对任意 ReLU 网络的鲁棒性，显示该松弛法比先前的松弛法更严格，并在三个不同的训练对象对我们的建议松弛法不感兴趣。
PDF6 years ago
具有差分隐私的对抗样本可靠性认证
本文介绍一种名为 PixelDP 的新型防御技术，它是基于差分隐私的一种新型密码学概念，可以为大型数据集和任意模型类型提供强大的保护机制，具有防范对抗性例子的鲁棒性保证。
PDF6 years ago