- 一致性净化:有效且高效的扩散净化以保证鲁棒性
通过一步生成纯净图像的完全一致性净化方法,以及使用 LPIPS 损失进行一致性微调,我们的一致性净化框架在保证证明型鲁棒性和效率方面实现了最先进的水平。
- ICML突破障碍:平滑 DRL 代理程序中的增强效用和鲁棒性
我们提出了 S-DQN 和 S-PPO 方法,通过对现有平滑代理的改进,在标准 RL 基准测试中显著提高了干净奖励、经验鲁棒性和鲁棒性保证,平均因子分别为 $2.16 imes$ 和 $2.13 imes$。此外,我们引入了 Smoothe - MM随机平滑中的统计估计问题的处理方法对抗鲁棒性
通过采用置信区间与较少样本的统计估计方法,我们提供了一种新的方法来解决随机平滑中的计算负担,从而在标准方法中获得相同的统计保证。同时我们提出了一个随机版本的 Clopper-Pearson 置信区间,证明了这种方法的效果明显更好。
- 分布对抗损失
对抗攻击的一个主要挑战是可能的攻击方法的庞大空间,本研究引入了一种称为分布对抗损失的新概念,旨在统一随机平滑和输入离散化两种有效削弱攻击者影响的方法。我们证明我们的概念具有 VC 维度和每个输入关联的允许对抗分布集合的大小方面的泛化保证,并 - ICML指数高斯分布对(双抽样)随机平滑的影响
随机平滑是一种可扩展的认证防御方法,提供对抗样本的稳健认证。研究重点在于探讨指数标准高斯分布和指数通用高斯分布对随机平滑和双抽样随机平滑的影响,以解决维度诅咒问题。实验结果验证了指数标准高斯分布在不同指数下对随机平滑和双抽样随机平滑的相同认 - RS-Reg:随机平滑的概率性和稳健回归认证
通过定义回归任务中的鲁棒性,灵活地通过概率,我们展示了如何为用户指定的观察到有效输出的概率建立输入数据点扰动(使用 $l_2$ 范数)的上界。我们还展示了在回归模型无约束操作的情况下,基本的平均函数的渐近特性。在处理输出有界的回归模型族时, - 使用 100 倍的样本效率估计随机平滑的稳健半径
减少样本数量可以降低鲁棒性半径,但保持相同的置信度;本文提供了数学基础并在 CIFAR-10 和 ImageNet 数据集上进行了实验证明。
- ACL通过自去噪平滑提高大型语言模型的稳健性
大型语言模型 (LLMs) 的漏洞性导致对抗性扰动攻击,而随着模型规模的增加和有限的访问权限,提高模型的鲁棒性变得很困难。我们提出了一种称为自修复平滑的方法,通过利用 LLMs 的多任务性质,首先去噪噪声输入,然后基于这些去噪版本进行预测, - 通过双随机平滑缓解基于认证的鲁棒性的维度诅咒
提供了一种新的方法,通过在较低维度空间中利用双重平滑来为高维输入提供 ${\ell_2}$ 认证的稳健性,实验证明 Dual Randomized Smoothing(DRS)与传统方法相比,在 CIFAR-10 和 ImageNet 数据 - 认证的 PEFTSmoothing:具有随机平滑的参数高效微调
通过使用 Parameter-Efficient Fine-Tuning(PEFT)方法,PEFTSmoothing 方法探索了一种使基础模型适应学习带有高斯噪声的数据的替代方式,证明了其在白盒和黑盒设置下的有效性和效率,可以为 CIFAR - 加速平滑:随机平滑的可扩展方法
通过训练替代 Monte Carlo 抽样的替代神经网络,提供随机平滑分类器的近乎精确的近似,加速鲁棒半径认证过程,克服了传统随机平滑方法中的计算瓶颈。
- 通过构件设计的对抗鲁棒性
在交通标志识别领域中,我们提出了一种改进对抗鲁棒性的新方法,通过重新定义标准并进行微小的变化来抵御对抗样本。与最先进的方法相比,我们的方法在两种攻击类型下,以及对于良性输入,显著提高了鲁棒准确率,达到高达 25.18%的提升。
- 您的扩散模型实际上是一个可证实稳健分类器
通过推导证据下界(ELBO)来对高斯污染数据的扩散分类器进行泛化,将其与随机光滑化相结合,构建具有非常数 Lipschitz 性质的平滑分类器,实现了 80%+ 和 70%+ 的在 CIFAR-10 上扰动小于 0.25 和 0.5 的认证 - 信任,但要验证:随机平滑技术综述
机器学习模型容易受到对抗攻击,通过随机平滑技术进行认证防御可以提高分类器的鲁棒性。该研究探讨了随机平滑的理论基础、实证有效性和应用,系统化总结了现有知识并提出潜在解决方案。
- 平滑展开增强的鲁棒 MRI 重建
MRI 重建的 DL 技术往往对输入扰动敏感,本论文提出了一种新的图像重建框架 SMUG,通过自定义随机平滑过程以提高 DL-based MRI 重建模型的鲁棒性,有效应对各种稳定性问题和扰动。
- 多尺度扩散去噪平滑
通过多尺度平滑和扩散模型,本论文研究了平滑方法的准确性和认证鲁棒性之间的平衡,以实现对大规模模型的对抗性稳健性。
- 分层随机平滑
通过在复杂数据中引入分层随机平滑的方式,本研究相比现有方法更有针对性地增加噪音,以提供更强的稳健性保证和高准确度,在图像和节点分类中实验证明了其重要性。
- 通过随机平滑实现可证明稳健的代价敏感学习
我们研究了在成本敏感场景中学习对抗鲁棒分类器的问题,通过一个二进制成本矩阵编码不同分类的敌对转换的潜在危害。我们提出了一种能够为任意成本矩阵提供严密鲁棒性保证的改进版随机平滑认证方法,并使用针对不同数据子组的细粒度认证半径优化方案,提出了一 - 提升随机平滑的鲁棒性:两种成本效益的方法
对随机平滑技术进行了改进以提高鲁棒性,包括引入新的训练方法和后处理方法,结果显示这些方法可以提高随机平滑分类器的鲁棒性性能和训练效率,并对基于模型集成的方法进行了理论分析。
- 医学图像分割深度学习模型认证
基于随机平滑和扩散模型的医学图像分割基线,通过多项公共数据集的实验证明其能够在高度扰动的图像中保持高准确性。