Sep, 2023

提高认证鲁棒性的简化分解测量

PDF
TL;DR通过考虑认证模型的潜在输出空间，本研究提出了两种改进认证机制分析的独特方法，可以提供数据集独立和数据集相关的认证性能度量，从而使认证半径相对于现有技术能够提高一倍以上。经验证，我们的新方法能够在噪声尺度 $σ = 1$ 下认证比以往多 9％的样本，并且随着预测任务的难度增加，观察到更大的相对改进。
certified robustnessdefencesadversarial attackscertification mechanismsdataset-independent measures
发现论文，激发创造
  • 集体鲁棒认证的本地随机平滑

    本文提出了一种基于新型局部化随机平滑方法的更普遍的模型合集鲁棒性认证方法，并在图像分割和节点分类任务上得到更高的准确性和更强的认证。

    Oct, 2022

  • 自适应认证培训：追求更好的准确性与鲁棒性之间的权衡

    在此研究中，我们提出了一种基于自适应认证半径训练的新方法，旨在在保持高标准准确性的同时，提高模型的鲁棒性和准确性，从而推进现有准确性与鲁棒性的权衡。我们在 MNIST、CIFAR-10 和 TinyImageNet 数据集上验证了该方法的有效性，尤其在 CIFAR-10 和 TinyImageNet 上，与基准方法相比，我们的方法在相同标准准确性水平下能够提供高达两倍的鲁棒性。

    Jul, 2023

  • 增量再平滑：将差分隐私与认证鲁棒性相结合

    通过 DP-CERT 框架结合随机平滑技术和差分隐私模型训练，同时提供隐私和认证鲁棒性，从而在 CIFAR10 数据集上显著提高了模型的认证准确性和认证半径。

    Jun, 2023

  • 基于扩散模型的认证对抗性容忍度提高

    使用最先进的扩散模型生成额外的训练数据可以极大地提高敌对训练的鲁棒性，该方法同样可以明显提高确定性认证防御的鲁棒性，我们还提供了一些建议来扩展认证训练方法的鲁棒性。

    May, 2023

  • 探索神经模型分类鲁棒性的精确观察

    深度学习和鲁棒性在安全关键应用中的测评方法以及概率鲁棒性的权衡和使用条件进行了比较分析，提出了一种基于假设检验的直观实用测量标准，并将其整合到 TorchAttacks 库中，为对模型鲁棒性的理解做出了贡献。

    Apr, 2024

  • 朝着高准确度的概率鲁棒性认证

    通过提出一种新的方法，同时追求高准确性和具有认证的概率鲁棒性，我们的实验显示该方法在多个模型和数据集上的认证率和准确性方面明显优于现有方法。

    Sep, 2023

  • 实证鲁棒性与认证鲁棒性对抗对策间的缩小

    本文介绍了一种新方法，即通过自适应实现认证，将经过对抗训练的模型转化为随机平滑分类器，在推理过程中提供 l2 范数的认证鲁棒性，同时不影响它们对抗攻击的经验鲁棒性。

    Feb, 2021

  • 基于随机平滑的防御策略对数据污染有多强健？

    本研究发现了一种对具有证明鲁棒性的分类器构成威胁的数据污染攻击，并提出了一种新型双层优化数据污染攻击，可降低其整个目标类别的平均有保障半径（ACR），以及降低 30％以上的目标类别平均有保障半径（ACR）

    Dec, 2020

  • 面向现实世界的定制健壮性通用框架：基于群体的健壮性

    本文旨在通过定义一种补充现有度量方式的量化指标 —— 群体韧性，更好地评估模型在特定攻击情境下的表现并提出了两种损失函数、三种新的攻击策略，证明了该指标对于区分对特定威胁模型的脆弱性有更好的效果，并提出了一种防御方法，可以将群体韧性提高 3.52 倍。

    Jun, 2023

  • 中心平缓化：针对具有结构化输出网络的认证健壮性

    本研究将证明对抗鲁棒性的研究扩展到具有更一般和结构化输出的问题，并将输出空间建模为度量空间，利用距离 / 相似函数等技术应用于图像分割，物体检测和生成模型等机器学习问题。本研究中的中心平滑程序使用随机平滑技术产生确保在输入的任何有界范数对抗扰动时，由距离度量测量的输出变化保持较小的模型。并应用于创建具有不同输出空间的可证明的强鲁棒模型，展示此方法可以产生有意义的证书，同时不会过度降低模型的性能。

    Feb, 2021