Oct, 2020

随机平滑的紧二阶证书

PDF
TL;DR提出一种新的 Second-order Smoothing (SoS) 方法，计算基于高斯随机采样函数的最近对抗例的距离下界，证明该证书的正确性且具有实现性。同时，提供一种高效的基于高斯 dipole 随机采样函数的证书计算方法，并在 CIFAR-10 和 ImageNet 等高维数据集上取得了略微提高的鲁棒性证书。
randomized smoothinglipschitz boundcurvature-like boundrobustness certificategaussian dipole smoothing
发现论文，激发创造
  • 随机平滑的高阶认证

    该研究提出了一种框架，通过重新定义函数类来提高平滑分类器的认证安全区域，设计了高效、高可信度的估计器来计算相关统计信息，以实现比当前方法更大的认证安全区域，并且不需要使用数据相关的平滑技术。

    Oct, 2020

  • 随机平滑实现认证的对抗鲁棒性

    论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性，使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下，具有 49％的认证准确率，并且该方法在获得更高的认证准确率方面比其他方法更具优势。

    Feb, 2019

  • 基于随机平滑的黑盒认证：一种基于函数优化的框架

    通过一种新的框架，使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性，并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。

    Feb, 2020

  • 随机平滑用于稳健性保证的扩展和限制

    通过随机平滑来证明分类器决策对于对抗性噪声不变，同时对噪声稳健性的保证受到多种因素的影响，例如平滑度量之间的差异和拟合威胁模型的选择。此外，该研究证明随着 p 的增加，随机平滑受到了维度诅咒的影响。

    Jun, 2020

  • 随机平滑在可证明鲁棒性中的维数诅咒

    该研究论文使用 i.i.d. 平滑分布技术进行随机平滑，证明了在高维度情况下使用该技术，防御不同攻击模型会有一定挑战，并有类似到 isotropic Gaussian 平滑的最优结果。

    Feb, 2020

  • 对于随机平滑分类器的严格对抗鲁棒性证明

    采用输入随机化生成的分类器的集合可以具有很强的鲁棒性，该方法可扩展到更广泛的分布，特别是在离散情况下保证敌对的鲁棒性，并给出了相应的算法，此外，该研究有助于通过假设分类器的函数类来提高保证，并且具有图像和分子数据集上的实际应用。

    Jun, 2019

  • RS-Reg：随机平滑的概率性和稳健回归认证

    通过定义回归任务中的鲁棒性，灵活地通过概率，我们展示了如何为用户指定的观察到有效输出的概率建立输入数据点扰动（使用 $l_2$ 范数）的上界。我们还展示了在回归模型无约束操作的情况下，基本的平均函数的渐近特性。在处理输出有界的回归模型族时，我们导出了输入扰动的认证上界。我们的模拟验证了理论结果的有效性，并揭示了简单平滑函数（例如平均）在回归任务中的优势和局限性。

    May, 2024

  • 投影随机平滑实现认证对抗鲁棒性

    通过在低维投影空间中执行随机平滑，我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动，并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较，并证明我们的方法在数量级上优于现有技术。

    Sep, 2023

  • 可证明鲁棒性的随机平滑分类器的规则化训练和紧密认证

    本文研究了如何通过正则化风险函数以提高深度神经网络的准确性和稳健性，并提出了一种新的认证算法，能够对 CIFAR-10 和 ImageNet 数据集中的深度神经网络提供更严格的稳健性保证。

    Feb, 2020

  • 增量式随机平滑认证

    我们提出了一种增量鲁棒性认证方法 IRS，通过重复利用原始光滑模型的认证保证，来维护新模型的认证保证并使计算成本降低了很多。

    May, 2023