Sep, 2020

通过随机平滑技术进行置信度认证

PDF
TL;DR本文提出了一种针对随机平滑后的分类器预测置信度的证明半径计算方法，利用平滑分布下预测置信度的概率分布信息，基于 Neyman-Pearson 引理，设计了一种计算置信度会高于某一阈值的证明半径估计方法，并在 CIFAR-10 和 ImageNet 数据集上实验表明，利用预测置信度的概率分布信息能够明显提升分类器的可证明鲁棒性。
发现论文，激发创造
  • 增强随机平滑的 Lipschitz - 方差 - 边缘权衡

    深度神经网络的现实应用受到噪声输入和对抗性攻击时的预测不稳定性的限制。本文介绍了一种基于随机平滑的框架，通过将噪声注入输入来获得平滑且更加鲁棒的分类器，并引入了一种不同的简单投影技术来增加认证半径，利用 Lipschitz 常数和边界的权衡。实验结果表明，与当前最先进的方法相比，我们的新型认证过程在认证准确性上取得了显著提高，有效改善了当前的认证半径。

    Sep, 2023

  • 投影随机平滑实现认证对抗鲁棒性

    通过在低维投影空间中执行随机平滑，我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动，并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较，并证明我们的方法在数量级上优于现有技术。

    Sep, 2023

  • 随机平滑的高阶认证

    该研究提出了一种框架，通过重新定义函数类来提高平滑分类器的认证安全区域，设计了高效、高可信度的估计器来计算相关统计信息，以实现比当前方法更大的认证安全区域，并且不需要使用数据相关的平滑技术。

    Oct, 2020

  • RS-Reg：随机平滑的概率性和稳健回归认证

    通过定义回归任务中的鲁棒性，灵活地通过概率，我们展示了如何为用户指定的观察到有效输出的概率建立输入数据点扰动（使用 $l_2$ 范数）的上界。我们还展示了在回归模型无约束操作的情况下，基本的平均函数的渐近特性。在处理输出有界的回归模型族时，我们导出了输入扰动的认证上界。我们的模拟验证了理论结果的有效性，并揭示了简单平滑函数（例如平均）在回归任务中的优势和局限性。

    May, 2024

  • SmoothMix: 训练置信度校准的平滑分类器，实现可靠鲁棒性

    本研究提出了一种名为 SmoothMix 的简单培训方案，可通过自我混合控制平滑分类器的鲁棒性

    Nov, 2021

  • 平滑分类器保证鲁棒性的一致性正则化

    研究表明随机平滑是一种有效的提高深度神经网络分类器准确度和 L2 / 高斯稳健性能的方法，并且在实验中也通过该方法显著地改善了已有的高斯稳健性能模型的准确性。

    Jun, 2020

  • 数据相关的随机平滑

    本文介绍了一种新的数据依赖型平滑分类器构造方法，通过优化高斯分布的方差，最大化平滑分类器的认证半径。该方法易于实现且无需参数，在三个随机平滑方法中表现出更高的认证准确性。

    Dec, 2020

  • 随机平滑用于稳健性保证的扩展和限制

    通过随机平滑来证明分类器决策对于对抗性噪声不变，同时对噪声稳健性的保证受到多种因素的影响，例如平滑度量之间的差异和拟合威胁模型的选择。此外，该研究证明随着 p 的增加，随机平滑受到了维度诅咒的影响。

    Jun, 2020

  • 随机平滑实现认证的对抗鲁棒性

    论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性，使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下，具有 49％的认证准确率，并且该方法在获得更高的认证准确率方面比其他方法更具优势。

    Feb, 2019

  • 用方差降低分类器的随机平滑增强

    本文介绍一种随机平滑算法来提高基于噪声的鲁棒性，并提出集成模型作为基本模型，通过实验证明其可行性和优越性，同时优化算法以降低计算复杂度。

    Jun, 2021