May, 2020

通过平滑加权集合提高认证的鲁棒性

PDF
TL;DR本文提出了一种利用加权平滑的集成学习（SWEEN）方案来提高随机平均分类器的性能，并证明了 SWEEN 模型不仅能够帮助实现最佳认证鲁棒性，还能通过有效的训练来获得最优性能，同时提出了一种自适应预测算法来减少对模型预测和认证的成本，并通过实验证明 SWEEN 模型的性能显着优于候选模型集的上限，采用少量小模型构建的 SWEEN 模型可在可接受的时间内达到与单个大模型相当的性能。
发现论文，激发创造
  • 提升随机平滑的鲁棒性：两种成本效益的方法

    对随机平滑技术进行了改进以提高鲁棒性，包括引入新的训练方法和后处理方法，结果显示这些方法可以提高随机平滑分类器的鲁棒性性能和训练效率，并对基于模型集成的方法进行了理论分析。

    Oct, 2023

  • 通过深度模型集成增强可证明的鲁棒性

    本文提出了一种算法，通过优化加权基本模型，对深度模型群集的认证稳健性进行增强，实验结果证明了该算法可以形成比 naive 平均所有可用模型更为稳健的群集，并且通常具有更好的准确性。

    Oct, 2019

  • 决策桩集合的 (去) 随机平滑化

    本研究提出了基于确定性平滑的决策桩集成方法，通过动态规划和两种提高保真度的方法，成功地获得了数值和分类特征的确定性鲁棒证明。实验证明，相较于基于树模型的现有技术，我们的方法可以显著提高基于树模型的保真度。

    May, 2022

  • 通过随机平滑实现可证明稳健的代价敏感学习

    我们研究了在成本敏感场景中学习对抗鲁棒分类器的问题，通过一个二进制成本矩阵编码不同分类的敌对转换的潜在危害。我们提出了一种能够为任意成本矩阵提供严密鲁棒性保证的改进版随机平滑认证方法，并使用针对不同数据子组的细粒度认证半径优化方案，提出了一种优化成本敏感鲁棒性的平滑分类器训练算法。我们在图像基准测试和现实世界医学数据集上的大量实验证明了我们方法在实现显著改善认证成本敏感鲁棒性性能的同时，对整体准确性的影响可以忽略不计。

    Oct, 2023

  • 通过随机自集成实现鲁棒神经网络

    本文提出了一种名为 RSE 的新型防御算法，利用随机性和集成两个重要概念，通过向神经网络中添加随机噪声层以防止强梯度攻击，并对随机噪声预测进行集成以稳定性能，从而保护目标模型。该算法在真实数据集上表现非常优异，能够有效防御对神经网络的攻击。

    Dec, 2017

  • SmoothMix: 训练置信度校准的平滑分类器，实现可靠鲁棒性

    本研究提出了一种名为 SmoothMix 的简单培训方案，可通过自我混合控制平滑分类器的鲁棒性

    Nov, 2021

  • 集成模型及其可证明鲁棒性

    该研究分析和提供了证明鲁棒性的集成机器学习模型，其中多样化的梯度和大置信度边界被证明是实现可证书鲁棒模型的必要和充分条件。他们提出了基于多模型平滑策略的有界模型平滑度分析，并证明了集成模型在温和条件下可以始终比单一基础模型实现更高的可证书鲁棒性。他们提出了轻量级多样性正则化的训练用于训练证明的鲁棒集成机器学习模型，不仅比现有的单一模型和集成模型实现了更高的可证书的鲁棒性，还在 MNIST，CIFAR-10 和 ImageNet 数据集上实现了最先进的 L2 - 鲁棒性。

    Jul, 2021

  • 自组合对抗训练提高鲁棒性

    本文提出了一种简单而强大的自我整合对抗训练方法 (SEAT)，通过在训练数据池中加入对抗样本来提高目标模型的鲁棒性，并通过历史模型的权重平均值产生一个健壮的分类器，该方法比起其他防御策略在各种对抗攻击下提高了很多的鲁棒性

    Mar, 2022

  • 加速平滑：随机平滑的可扩展方法

    通过训练替代 Monte Carlo 抽样的替代神经网络，提供随机平滑分类器的近乎精确的近似，加速鲁棒半径认证过程，克服了传统随机平滑方法中的计算瓶颈。

    Feb, 2024

  • 用方差降低分类器的随机平滑增强

    本文介绍一种随机平滑算法来提高基于噪声的鲁棒性，并提出集成模型作为基本模型，通过实验证明其可行性和优越性，同时优化算法以降低计算复杂度。

    Jun, 2021