通过随机平滑实现可证明稳健的代价敏感学习

Oct, 2023

通过随机平滑实现可证明稳健的代价敏感学习

Provably Robust Cost-Sensitive Learning via Randomized Smoothing

Yuan Xin, Michael Backes, Xiao Zhang

TL;DR我们研究了在成本敏感场景中学习对抗鲁棒分类器的问题，通过一个二进制成本矩阵编码不同分类的敌对转换的潜在危害。我们提出了一种能够为任意成本矩阵提供严密鲁棒性保证的改进版随机平滑认证方法，并使用针对不同数据子组的细粒度认证半径优化方案，提出了一种优化成本敏感鲁棒性的平滑分类器训练算法。我们在图像基准测试和现实世界医学数据集上的大量实验证明了我们方法在实现显著改善认证成本敏感鲁棒性性能的同时，对整体准确性的影响可以忽略不计。

Abstract

We focus on learning adversarially robust classifiers under a cost-sensitive scenario, where the potential harm of different classwise adversarial transformations is encoded in a binary cost matrix. Existing methods are either empirical that cannot certify robustness or suffer from inherent scalability issues. In this work, we study whether →

adversarial robust classifiers cost-sensitive scenario randomized smoothing certified radius cost-sensitive robustness

发现论文，激发创造

对抗性样本的代价敏感强健性

本文研究了在实际应用中，某些对抗变换的重要性可能比其他变换更高的情况下，如何衡量分类器在对抗干扰下的鲁棒性，并提出了一般性的目标函数，将 Wong 和 Kolter（2018）的鲁棒训练方法进行了改进。通过实验证明，所提出的方法可以显著降低成本敏感鲁棒错误，同时保持分类准确性。

Oct, 2018

投影随机平滑实现认证对抗鲁棒性

通过在低维投影空间中执行随机平滑，我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动，并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较，并证明我们的方法在数量级上优于现有技术。

Sep, 2023

提升随机平滑的鲁棒性：两种成本效益的方法

对随机平滑技术进行了改进以提高鲁棒性，包括引入新的训练方法和后处理方法，结果显示这些方法可以提高随机平滑分类器的鲁棒性性能和训练效率，并对基于模型集成的方法进行了理论分析。

Oct, 2023

可证明鲁棒性的随机平滑分类器的规则化训练和紧密认证

本文研究了如何通过正则化风险函数以提高深度神经网络的准确性和稳健性，并提出了一种新的认证算法，能够对 CIFAR-10 和 ImageNet 数据集中的深度神经网络提供更严格的稳健性保证。

Feb, 2020

通过随机平滑实现标签翻转攻击的认证强韧性

本文提出了一个新的机器学习算法来防御数据污染攻击，并通过随机平滑技术，构建了具有证明能力的线性分类器，可以高可信地抵御标签混淆攻击。此外，本文所提出的方法不需要对训练和测试数据集的分布作任何假设。

Feb, 2020

随机平滑实现认证的对抗鲁棒性

论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性，使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下，具有 49％的认证准确率，并且该方法在获得更高的认证准确率方面比其他方法更具优势。

Feb, 2019

通过对抗训练平滑分类器实现可证明健壮的深度学习

本文提出使用对抗训练来提高基于随机平滑的分类器的效果，并设计一种适应平滑分类器的攻击方法，通过大量实验，得出这种方法在 ImageNet 和 CIFAR-10 上的性能显著胜过所有现有的可证明的 L2 - 强健分类器，证明了这种方法是可靠的，且半监督学习和预训练能够进一步提高其效果。

Jun, 2019

平滑分类器保证鲁棒性的一致性正则化

研究表明随机平滑是一种有效的提高深度神经网络分类器准确度和 L2 / 高斯稳健性能的方法，并且在实验中也通过该方法显著地改善了已有的高斯稳健性能模型的准确性。

Jun, 2020

基于各向异性随机平滑的认证对抗性鲁棒性

本研究提出了基于像素噪声分布和卷积神经网络生成器的各向异性随机光滑方法，以确保可证明鲁棒性保证，并取得了显著的性能优于现有随机平滑方法的实验结果。

Jul, 2022

随机平滑用于稳健性保证的扩展和限制

通过随机平滑来证明分类器决策对于对抗性噪声不变，同时对噪声稳健性的保证受到多种因素的影响，例如平滑度量之间的差异和拟合威胁模型的选择。此外，该研究证明随着 p 的增加，随机平滑受到了维度诅咒的影响。

Jun, 2020