May, 2024

CrossCert: 用于深度学习模型补丁鲁棒性认证的交叉验证检测方法

PDF
TL;DR该论文介绍了一种新型的认证防御技术 CrossCert，通过交叉检查两个认证恢复防御器，提供稳健的认证和检测认证，以确保一个经过认证的样本在受到修补扰动的情况下始终返回 benign 标签，并且不会触发任何警告，具有可证明的保证。
发现论文，激发创造
  • 针对图像分类器补丁攻击的高效认证防御

    本文提出了 BagCert 架构和认证程序，通过一种新的损失函数实现认证不同大小和位置的对抗破坏，并在 CIFAR10 数据集上取得了对 5x5 对抗破坏下 86% 的准确率和 60% 的认证准确率。

    Feb, 2021

  • PatchCURE：提高对抗性贴纸防御的可证明鲁棒性、模型效用和计算效率

    PatchCURE 是一个能够平衡证明鲁棒性、模型效用和计算效率的防御框架，能够提供一系列不同效率级别下的最强防御性能和最高效的推理效率。

    Oct, 2023

  • 深度学习模型修复稳定性认证的多数不变方法

    使用 MajorCert 方法，该研究论文提出了一种修补程序鲁棒性认证技术，可以确保在一个样本中，没有任何修补程序能够操纵深度学习模型以预测不同的标签。

    Aug, 2023

  • PatchCleanser： 针对任何图像分类器的对抗性贴片确保鲁棒性防御

    PatchCleanser 是一种用于抵御基于物理世界中对受害对象打印和附加补丁的对抗性攻击的、在图片上执行的像素遮蔽的、适用于各种先进的图片分类器以实现高精度的、具有认证稳健性的防御方法。此方法可以证明在某些图像上永远预测正确的类别标签，同时较之前的工作显着提高了认证稳健性。

    Aug, 2021

  • 基于 Vision Transformer 的实用可验证补丁防御

    利用 Vision Transformer 结合 Derandomized Smoothing 进行逐步平滑的图像建模任务来训练并提高证明补丁防御机制的可证准确性，同时重构了原始的 ViT 的全局自注意结构以适用于在实际世界中的高效推理和部署。在 ImageNet 数据集上，在 2% 区域补丁攻击下，本文方法达到 41.70% 的证明准确度，比之前最佳方法高出近 1 倍（26.00%）。同时，本方法达到了 78.58% 的干净准确度，接近正常 ResNet-101 的准确度，并在 CIFAR-10 和 ImageNet 上实现最先进的干净和证明准确度。

    Mar, 2022

  • 重新审视图像分类器训练以提高对抗补丁的认证鲁棒防御

    该论文提出了一种通过最坏情况遮盖来提高模型不变性的方法 Greedy Cutout，相比于 PatchCleanser 中的 Random Cutout 增强方式，通过使用 Greedy Cutout 可以提高模型的认证鲁棒性。

    Jun, 2023

  • 对抗性贴片的认证防御

    本文介绍了对抗补丁攻击的认证和经验性防御措施，其中首次提出了认证防御措施，并实验了不同补丁形状的测试，获得了出人意料的良好的鲁棒性转移。

    Mar, 2020

  • (去) 随机化平滑处理：针对补丁攻击的可证明防御

    本研究介绍了一种针对图像贴片对抗攻击的可证明防御方法，并通过对以往方法的比较，证明了该方法在 CIFAR-10 和 ImageNet 上能有效提高防御水平，是当前领先的防御方法之一。

    Feb, 2020

  • PointCert: 具有确定性认证鲁棒性保证的点云分类

    该研究针对点云分类中的对抗攻击问题，提出了一个名为 PointCert 的通用框架，可将任何分类器变成可以抗击对抗点云攻击的验证型分类器，证明 PointCert 在多个应用场景中的鲁棒性性能明显优于现有的认证防御技术。

    Mar, 2023

  • ScaleCert：具有稀疏浅层的可扩展认证抵御对抗性补丁

    提出在高分辨率图像上实现高可证明鲁棒性的认证防御方法，减少敌对区域的搜索开销和过滤预测噪声，从而通过利用重要神经元的本地化性质增强了认证准确性。

    Oct, 2021