ICMLJun, 2022

基于分支定界的 IBP 正则化方法实现验证性对抗攻击鲁棒性

PDF
TL;DRIBP-R 是一种新颖的验证训练算法， 使用扩大的域上的对抗攻击和正则化术语，并使用廉价的间隔边界传播来最小化非凸验证问题与其近似之间的差距。通过利用最近的分支换框架，我们展示了 IBP-R 获取了 CIFAR-10 上小扰动的最新验证鲁棒性 - 准确性折衷，并且比相关先前的工作训练要快得多。
adversarial attacksverified training algorithmregularization terminterval bound propagationbranch-and-bound frameworks
发现论文，激发创造
  • 朝着稳定和高效的可验证鲁棒神经网络训练

    本文提出了一种名为 CROWN-IBP 的新认证敌对训练方法，该方法结合了快速的 IBP 边界传播和基于紧线性松弛的后向传播，能够高效地提供强大的神经网络分类器，并在 MNIST 和 CIFAR-10 数据集上超过以往所有的线性松弛和边界传递认证防御的最佳结果

    Jun, 2019

  • 区间传播对于训练可验证鲁棒性模型的有效性研究

    通过分析，我们展示了如何利用一种简单的边界技术（interval bound propagation，IBP）来训练大型保正可证神经网络，从而打败了验证准确率最高的现有技术，在 MNIST，CIFAR-10 和 SVHN 数据集上达到了最先进的结果。

    Oct, 2018

  • 关于使用区间边界传播进行有保证鲁棒性训练的收敛性

    本研究就 Interval Bound Propagation 的训练过程进行了理论分析，证明了当神经网络使用该方法进行训练时，具有一定的鲁棒性保证，并可以在有足够小的扰动半径和大网络宽度的情况下，使用梯度下降法线性收敛到零的鲁棒训练误差。

    Mar, 2022

  • 评估和训练可验证的强鲁棒性神经网络

    本篇研究旨在探究 interval bound propagation 和 CROWN 的关系，并证明线性绑定线是比 IBP 更紧的。进一步提出 CROWN 的放松版本 LBP，它可以用于验证大型网络以获得比 IBP 更低的验证误差。我们还设计了一种新的激活函数 ParamRamp，并在 MNIST，CIFAR-10 和 Tiny-ImageNet 等数据集上进行了广泛实验，取得了领先的验证稳健性结果。

    Apr, 2021

  • 理解带间隔传播的认证培训

    该论文研究了基于粗略区间边界传播（IBP）的证明训练方法，探讨了其较高的成功率和紧密性机制，并说明了其在可证明的训练中鲜明的鲁棒性和准确性之间的权衡。

    Jun, 2023

  • 鲁棒训练的预期紧界

    通过期望较紧的下界（ETB），我们可以将 IBP 的置信区间传播方法扩展到更深的神经网络，通过简单的标准训练程序在 MNIST 和 CIFAR10 上实现了令人印象深刻的鲁棒性 - 准确性平衡。

    May, 2019

  • 通过凸组合实现验证鲁棒性的表达损失函数

    通过对抗攻击和 IBP 限制的简单凸组合，达到了优秀的效果，并在 TinyImageNet 和缩小的 ImageNet 中在 l∞扰动为 0.0039 时，从文献中的最佳标准和验证准确率上，提高了 1.98％至 3.92％的结果。

    May, 2023

  • IB-RAR: 信息瓶颈作为对手鲁棒性的正则化器

    本文将信息瓶颈理论引入对抗训练和非对抗训练方法，以加强其鲁棒性，在损失函数中设计了正则化器作为学习目标，并根据特征与标签间的互信息来过滤中间表示的无用特征。实验结果表明，该方法能够与对抗性训练自然结合，提供更好的鲁棒性。

    Feb, 2023

  • 用混合整数规划评估神经网络的鲁棒性

    本文提出了一种基于混合整数规划的验证方法，对分段线性神经网络进行验证，以评估其对于对抗样本的脆弱性；通过紧凑的非线性公式和新颖的预处理算法实现了两到三个数量级的计算速度提升，并成功确定了 MNIST 分类器对于一定幅值下的对抗精度，相较于同类算法提供更好的证明。

    Nov, 2017

  • 量化感知区间边界传播用于训练可证明鲁棒性的量化神经网络

    本文研究了在保证噪声攻击后的量化神经网络的训练和认证问题，并提出了一个能够完全利用 GPU 加速的 QA-IBP 训练方法和验证流程，大大优于现有方法，已成为量化神经网络鲁棒性训练和认证新的标准。

    Nov, 2022