Feb, 2020

随机平滑通过认证防御图像变换

PDF
TL;DR本文提出了将随机平滑算法推广至包括参数化变换以及在参数空间中进行鲁棒性证明的方法，并通过引入三种不同类型的防御机制（启发式的，分布式的和个人的保证），解决了插值和舍入效应导致图像变换不组合的问题。此外，我们还展示了如何通过统计误差限制或图像变换的高效在线逆计算来获得个人证书。
randomized smoothingparameterized transformationsrobustnessdefensesindividual certificates
发现论文，激发创造
  • GSmooth: 通过广义随机光滑化证明对抗语义转换的鲁棒性

    本研究提出了广义随机平滑（GSmooth）理论框架及算法，通过新的维度扩增策略，可证明机器学习系统对普遍的语义转换是有稳健性的，采用基准测试的方法得到的结果显示了我们的方法非常有效。

    Jun, 2022

  • (去) 随机化平滑处理：针对补丁攻击的可证明防御

    本研究介绍了一种针对图像贴片对抗攻击的可证明防御方法，并通过对以往方法的比较，证明了该方法在 CIFAR-10 和 ImageNet 上能有效提高防御水平，是当前领先的防御方法之一。

    Feb, 2020

  • 一般的 Lipschitz：通过转换依赖随机平滑实现可解决语义转换的认证鲁棒性

    提出了一种新的框架，称为 “General Lipschitz（GL）”，用于基于随机平滑的神经网络分类器的可证明鲁棒性，以对抗可组合的解决的语义扰动。在该框架内，分析了平滑分类器相对于参数变换的依赖性和对应的鲁棒性证书，与 ImageNet 数据集上的最先进方法相比，性能相当。

    Aug, 2023

  • 随机平滑实现认证的对抗鲁棒性

    论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性，使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下，具有 49％的认证准确率，并且该方法在获得更高的认证准确率方面比其他方法更具优势。

    Feb, 2019

  • 随机平滑用于稳健性保证的扩展和限制

    通过随机平滑来证明分类器决策对于对抗性噪声不变，同时对噪声稳健性的保证受到多种因素的影响，例如平滑度量之间的差异和拟合威胁模型的选择。此外，该研究证明随着 p 的增加，随机平滑受到了维度诅咒的影响。

    Jun, 2020

  • 投影随机平滑实现认证对抗鲁棒性

    通过在低维投影空间中执行随机平滑，我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动，并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较，并证明我们的方法在数量级上优于现有技术。

    Sep, 2023

  • TSS: 用于鲁棒性认证的转换特定平滑

    本文提出了一个名为 TSS 的框架，用于证明机器学习算法具有普适的鲁棒性，能够有效地抵御各种对抗性的语义转换和攻击，特别是在图像分类领域中，对于像旋转，高斯模糊等紧密的语义转换表现出了优秀的鲁棒性。

    Feb, 2020

  • 增量式随机平滑认证

    我们提出了一种增量鲁棒性认证方法 IRS，通过重复利用原始光滑模型的认证保证，来维护新模型的认证保证并使计算成本降低了很多。

    May, 2023

  • 随机平滑的可扩展认证分割

    提出了一种基于随机平滑的图像和点云分割的新认证方法，利用多重测试机制确保统计保证，并能够对单一像素或点进行分类性弃权，实现对整个输入的鲁棒分割，实验证明算法在真实世界的分割任务中具有具有竞争力的精度和认证保证。

    Jul, 2021

  • 增量再平滑：将差分隐私与认证鲁棒性相结合

    通过 DP-CERT 框架结合随机平滑技术和差分隐私模型训练，同时提供隐私和认证鲁棒性，从而在 CIFAR10 数据集上显著提高了模型的认证准确性和认证半径。

    Jun, 2023