Aug, 2023

一般的 Lipschitz：通过转换依赖随机平滑实现可解决语义转换的认证鲁棒性

PDF
TL;DR提出了一种新的框架，称为 “General Lipschitz（GL）”，用于基于随机平滑的神经网络分类器的可证明鲁棒性，以对抗可组合的解决的语义扰动。在该框架内，分析了平滑分类器相对于参数变换的依赖性和对应的鲁棒性证书，与 ImageNet 数据集上的最先进方法相比，性能相当。
randomized smoothingimage classifiersadversarial perturbationssemantic perturbationsrobustness certificates
发现论文，激发创造
  • GSmooth: 通过广义随机光滑化证明对抗语义转换的鲁棒性

    本研究提出了广义随机平滑（GSmooth）理论框架及算法，通过新的维度扩增策略，可证明机器学习系统对普遍的语义转换是有稳健性的，采用基准测试的方法得到的结果显示了我们的方法非常有效。

    Jun, 2022

  • TSS: 用于鲁棒性认证的转换特定平滑

    本文提出了一个名为 TSS 的框架，用于证明机器学习算法具有普适的鲁棒性，能够有效地抵御各种对抗性的语义转换和攻击，特别是在图像分类领域中，对于像旋转，高斯模糊等紧密的语义转换表现出了优秀的鲁棒性。

    Feb, 2020

  • 随机平滑通过认证防御图像变换

    本文提出了将随机平滑算法推广至包括参数化变换以及在参数空间中进行鲁棒性证明的方法，并通过引入三种不同类型的防御机制（启发式的，分布式的和个人的保证），解决了插值和舍入效应导致图像变换不组合的问题。此外，我们还展示了如何通过统计误差限制或图像变换的高效在线逆计算来获得个人证书。

    Feb, 2020

  • 全局鲁棒神经网络

    通过在网络中加入全局 Lipschitz 边界，文中提出的方法可以快速训练大型强健的神经网络，实现了可证明的最先进的可验证准确性。同时，该方法比最近的可证方法需要的时间和内存少得多，并在在线认证时产生可忽略的成本。

    Feb, 2021

  • 可证明鲁棒性的随机平滑分类器的规则化训练和紧密认证

    本文研究了如何通过正则化风险函数以提高深度神经网络的准确性和稳健性，并提出了一种新的认证算法，能够对 CIFAR-10 和 ImageNet 数据集中的深度神经网络提供更严格的稳健性保证。

    Feb, 2020

  • 集体鲁棒认证的本地随机平滑

    本文提出了一种基于新型局部化随机平滑方法的更普遍的模型合集鲁棒性认证方法，并在图像分割和节点分类任务上得到更高的准确性和更强的认证。

    Oct, 2022

  • 提高可认证鲁棒性的配方：容量与数据

    通过使用新技术、设计优化和先前工作的综合综合，我们能够显著提高确定性认证方法在各种基准数据集上的最新鲜准确性，并扩展了扰动范围大小，尤其是通过在现有最新雅可比约束控制的 ResNet 架构末端添加大型 “Cholesky - 正交化残差稠密” 层，以增加网络容量和性能，再结合过滤的生成数据增强，最终结果比确定性认证方法的最新准确性提高 8.5 个百分点。

    Oct, 2023

  • 用于相机运动扰动下的认证鲁棒性的像素级平滑化

    通过在 2D 像素空间上使用平滑分布，而不是在 3D 物理空间中进行采样，增强了鲁棒性认证的效率，并在融合车辆运动空间的均匀分区技术的基础上，实现了对 3D-2D 投影转换的鲁棒性认证。

    Sep, 2023

  • 通过随机平滑实现标签翻转攻击的认证强韧性

    本文提出了一个新的机器学习算法来防御数据污染攻击，并通过随机平滑技术，构建了具有证明能力的线性分类器，可以高可信地抵御标签混淆攻击。此外，本文所提出的方法不需要对训练和测试数据集的分布作任何假设。

    Feb, 2020

  • 投影随机平滑实现认证对抗鲁棒性

    通过在低维投影空间中执行随机平滑，我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动，并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较，并证明我们的方法在数量级上优于现有技术。

    Sep, 2023