- 医学图像分割深度学习模型认证
基于随机平滑和扩散模型的医学图像分割基线,通过多项公共数据集的实验证明其能够在高度扰动的图像中保持高准确性。
- 增强随机平滑的 Lipschitz - 方差 - 边缘权衡
深度神经网络的现实应用受到噪声输入和对抗性攻击时的预测不稳定性的限制。本文介绍了一种基于随机平滑的框架,通过将噪声注入输入来获得平滑且更加鲁棒的分类器,并引入了一种不同的简单投影技术来增加认证半径,利用 Lipschitz 常数和边界的权衡 - 投影随机平滑实现认证对抗鲁棒性
通过在低维投影空间中执行随机平滑,我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动,并且这些扰动 - 一般的 Lipschitz:通过转换依赖随机平滑实现可解决语义转换的认证鲁棒性
提出了一种新的框架,称为 “General Lipschitz(GL)”,用于基于随机平滑的神经网络分类器的可证明鲁棒性,以对抗可组合的解决的语义扰动。在该框架内,分析了平滑分类器相对于参数变换的依赖性和对应的鲁棒性证书,与 ImageNe - 通过随机平滑技术实现对深度学习恶意软件检测器的实用防御
基于深度学习的恶意软件检测器对于被有意修改以逃避检测的恶意软件实例,即对抗性恶意软件实例,显示出易受攻击。为了应对深度学习检测器的这种脆弱性,我们提出了一个受随机平滑启发的针对对抗性恶意软件实例的实用防御方案。该方案使用随机消融平滑的方式训 - Text-CRS: 一个通用的文本对抗攻击认证鲁棒性框架
本文提出了一种基于随机平滑的泛化认证鲁棒性框架 Text-CRS,用于自然语言处理中的文本,并对单词级对抗操作进行了证明,实现了显著的准确性提升。
- 使用自降噪技术为大型语言模型提供认证的鲁棒性
本文提出了一种新的针对大型语言模型的认证健壮方法,提高了模型的认证健壮性和预测稳定性,比现有认证方法表现更优秀,实验结果表明该方法在经验证健壮性和实证健壮性方面均优于现有认证方法。
- 通过扩散模型实现更好的认证分割
本文介绍了一种结合随机平滑和扩散模型的方法,用于认证图像分割预测结果,实现更高的鲁棒性。实验结果表明,该方法平均提高了 21 个百分点的准确度
- 增量再平滑:将差分隐私与认证鲁棒性相结合
通过 DP-CERT 框架结合随机平滑技术和差分隐私模型训练,同时提供隐私和认证鲁棒性,从而在 CIFAR10 数据集上显著提高了模型的认证准确性和认证半径。
- 增量式随机平滑认证
我们提出了一种增量鲁棒性认证方法 IRS,通过重复利用原始光滑模型的认证保证,来维护新模型的认证保证并使计算成本降低了很多。
- ACL具有掩码推断的随机平滑方法用于对抗性鲁棒文本分类
本研究提出了 RSMI,这是一种新颖的 two-stage 框架,结合了随机平滑(RS)和掩码推断(MI),以提高 NLP 系统的对抗鲁棒性。经验证,RSMI 方法在基准数据集上比现有最先进方法提高了 2 至 3 倍的对付抗性,因此它是一种 - 随机平滑中的噪声增强训练理解
本研究分析了随机平滑在噪声训练基分类器时的风险和收益,并揭示了在什么分布下可以获得收益。实验表明,理论分析对随机平滑的实际应用有直接的影响。
- 多扰动界内认证的对抗鲁棒性
本篇论文提出了一种新的证明方案来提高对不同扰动边界的认证鲁棒性,并通过提出一种新的训练噪声分布和正则化训练方案,同时改善了对于 l1 和 l2 扰动规范的认证,并在 ACR 指标上实现了改进。
- 认证性黑盒攻击:保证对对手生成的对抗样本攻击成功
本文旨在通过设计随机化查询方法和几种新的技术手段,实现对黑盒模型进行有效的对抗攻击,并维护可证明的攻击成功率。作者在 CIFAR10 和 ImageNet 数据集上进行了全面评估,结果验证了这种新型攻击方法的有效性。
- ICLR集体鲁棒认证的本地随机平滑
本文提出了一种基于新型局部化随机平滑方法的更普遍的模型合集鲁棒性认证方法,并在图像分割和节点分类任务上得到更高的准确性和更强的认证。
- MM私有可靠的神经网络推理
本研究提出了一个名为 Phoenix 的系统,通过设计随机平滑的核心算法构建块的高效完全同态加密(FHE)对应项,使得可靠 NN 进行隐私保护的推理成为可能,并通过实验证明,Phoenix 在实现隐私保护的同时不会产生极高的延迟。
- ICML具有随机平滑的认证神经网络水印
本文提出了一种可验证的数字水印方法,使用随机平滑技术,保证水印无法被移除,同时与以前的方法相比具有更强的鲁棒性。
- ICLR浮点算术中的声音随机平滑
针对随机平滑算法在有限浮点精度下的失效性进行了研究,并提出了一种基于公平硬币的新算法,能够有效对常见分类器进行认证。
- ICML基于各向异性随机平滑的认证对抗性鲁棒性
本研究提出了基于像素噪声分布和卷积神经网络生成器的各向异性随机光滑方法,以确保可证明鲁棒性保证,并取得了显著的性能优于现有随机平滑方法的实验结果。
- ICML双采样随机平滑
提出了一种基于双重采样的随机平滑框架 (DSRS) 来提高神经网络模型的鲁棒性,并证明了其可以克服高维度数据集下现有随机平滑算法的 “维数诅咒”,实验表明 DSRS 可以在不同情况下比现有基准证明更大的鲁棒半径。