本文介绍了一种结合随机平滑和扩散模型的方法,用于认证图像分割预测结果,实现更高的鲁棒性。实验结果表明,该方法平均提高了 21 个百分点的准确度
Jun, 2023
本文提出了一种新颖、更通用和实用的自适应分层认证方法用于图像语义分割,该方法在由细粒度到粗粒度级别组成的多级分层标签空间中进行认证,同时引入了一种基于认证信息增益度量的评估策略,并且通过实验证明相比于当前最先进的认证方法及其非自适应版本,该自适应算法能够实现更高的认证信息增益并且更低的弃权率。
Feb, 2024
基于随机平滑和扩散模型的医学图像分割基线,通过多项公共数据集的实验证明其能够在高度扰动的图像中保持高准确性。
Oct, 2023
本文提出了一种基于新型局部化随机平滑方法的更普遍的模型合集鲁棒性认证方法,并在图像分割和节点分类任务上得到更高的准确性和更强的认证。
Oct, 2022
通过在低维投影空间中执行随机平滑,我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动,并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较,并证明我们的方法在数量级上优于现有技术。
Sep, 2023
本文提出了将随机平滑算法推广至包括参数化变换以及在参数空间中进行鲁棒性证明的方法,并通过引入三种不同类型的防御机制(启发式的,分布式的和个人的保证),解决了插值和舍入效应导致图像变换不组合的问题。此外,我们还展示了如何通过统计误差限制或图像变换的高效在线逆计算来获得个人证书。
Feb, 2020
本文提出了一种针对随机平滑后的分类器预测置信度的证明半径计算方法,利用平滑分布下预测置信度的概率分布信息,基于 Neyman-Pearson 引理,设计了一种计算置信度会高于某一阈值的证明半径估计方法,并在 CIFAR-10 和 ImageNet 数据集上实验表明,利用预测置信度的概率分布信息能够明显提升分类器的可证明鲁棒性。
Sep, 2020
本研究提出了广义随机平滑(GSmooth)理论框架及算法,通过新的维度扩增策略,可证明机器学习系统对普遍的语义转换是有稳健性的,采用基准测试的方法得到的结果显示了我们的方法非常有效。
Jun, 2022
我们提出了一种增量鲁棒性认证方法 IRS,通过重复利用原始光滑模型的认证保证,来维护新模型的认证保证并使计算成本降低了很多。
May, 2023
通过训练替代 Monte Carlo 抽样的替代神经网络,提供随机平滑分类器的近乎精确的近似,加速鲁棒半径认证过程,克服了传统随机平滑方法中的计算瓶颈。