certified robustness | BriefGPT

关键词certified robustness

搜索结果 - 38

ICML基于各向异性随机平滑的认证对抗性鲁棒性
本研究提出了基于像素噪声分布和卷积神经网络生成器的各向异性随机光滑方法，以确保可证明鲁棒性保证，并取得了显著的性能优于现有随机平滑方法的实验结果。
PDF2 years ago
ECCVUniCR: 通过随机平滑实现通用近似认证鲁棒性
研究了机器学习分类器对抗性扰动的认证鲁棒性，提出了第一个通用近似认证鲁棒性 (UniCR) 框架，能够逼近任何输入在任何分类器中针对任何 $\ell_p $ 扰动时的鲁棒性认证。
PDF2 years ago
基于认证的对抗防御遇到了基于分布外的干扰：鲁棒性评估和简单基准
本文通过实验研究证实，基于随机平滑的认证方法对于最新的认证稳健模型在处理低频 OOD 数据（如天气相关干扰）时具有未知的脆弱性，提出了一种新的数据扩充方案 —— FourierMix，通过改善训练数据的光谱覆盖范围来消除认证稳健模型的光谱偏
PDF3 years ago
使用高效的本地 Lipschitz 界限训练保证鲁棒神经网络
本文提出了一种训练算法插件，可以有效地减小神经网络的局部 Lipschitz 上界，以提高神经网络的自然精度和可证明的精度之间的权衡，并在 MNIST、CIFAR-10 和 TinyImageNet 数据集上展示了该方法在不同网络结构下均能
PDF3 years ago
ICLR提高 L∞距离网络的认证鲁棒性
本文提出了一种新的神经网络架构，基于 $\ell_\infty$ 距离函数，并通过改进训练过程及目标函数等手段，显著提高了网络的认证准确度，从而领先于同类方法。
PDF3 years ago
整数算术认证量化神经网络的健壮性
该论文提出了一种整数随机平滑方法与量化方法，可以将任何分类器转换为新的平滑分类器，使用整数算术对抗扰动具有认证的鲁棒性，并在 L2 范数下证明了严格的鲁棒性保证。在 CIFAR-10 和 Caltech-101 上的两个不同数据集上，我们的
PDF3 years ago
PatchCleanser：针对任何图像分类器的对抗性贴片确保鲁棒性防御
PatchCleanser 是一种用于抵御基于物理世界中对受害对象打印和附加补丁的对抗性攻击的、在图片上执行的像素遮蔽的、适用于各种先进的图片分类器以实现高精度的、具有认证稳健性的防御方法。此方法可以证明在某些图像上永远预测正确的类别标签，
PDF3 years ago
ICLR集成模型及其可证明鲁棒性
该研究分析和提供了证明鲁棒性的集成机器学习模型，其中多样化的梯度和大置信度边界被证明是实现可证书鲁棒模型的必要和充分条件。他们提出了基于多模型平滑策略的有界模型平滑度分析，并证明了集成模型在温和条件下可以始终比单一基础模型实现更高的可证书鲁
PDF3 years ago
ICML使用具有 L-inf-dist 神经元的神经网络实现 L-infinity 鲁棒性认证
本文提出了一种新的神经网络设计方法，基于 L∞-dist neuron 进行构造，设计出的 L∞-dist 网络是个具有 1-Lipschitz 性质，可以提供理论保障的鲁棒性，并且具有足够的表达能力。通过实验，证明了该新型神经网络设计在
PDF3 years ago
AAAI通过一致性正则化提高神经网络的认证鲁棒性
该研究探讨了虚假分类样本导致的不一致性，并通过添加新的一致性正则化项来更好地利用虚假分类样本，提出了一种新的防御规则项，称为 Misclassification Aware Adversarial Regularization（MAAR），
PDF4 years ago
AAAIBagging 方法抵抗数据污染攻击的内在认证鲁棒性
本文研究了机器学习训练集中存在的数据污染攻击以及集成学习中的 Bootstrap Aggregating 方法可以预防此类攻击。我们证明了 Bagging 可以在随机采样训练集的基础上使用多个基础模型进行学习，并在测试时使用多数表决方法进行
PDF4 years ago
通过强健低秩表示实现对抗鲁棒性
本研究探讨了使用自然低秩表示训练神经网络以提高分类器对抗干扰抵抗力的效果，并提出了一种基于乘法权重更新方法且具有可证明保证的快速算法，以使得网络对于特定类型的干扰具有认证的鲁棒性。
PDF4 years ago
ACLSAFER: 一种无需结构的方法，实现对抗性词汇替换的认证鲁棒性
针对自然语言处理领域中的同义词替换攻击问题，提出了一种基于随机平滑技术的认证鲁棒性方法，能证明某些输入不能通过任何同义词替换被修改，可以应用于各种预训练模型，在 IMDB 和亚马逊文本分类任务上表现优异，创造了 BERT 系统鲁棒性认证的最
PDF4 years ago
通过平滑加权集合提高认证的鲁棒性
本文提出了一种利用加权平滑的集成学习（SWEEN）方案来提高随机平均分类器的性能，并证明了 SWEEN 模型不仅能够帮助实现最佳认证鲁棒性，还能通过有效的训练来获得最优性能，同时提出了一种自适应预测算法来减少对模型预测和认证的成本，并通过实
PDF4 years ago
基于随机平滑的黑盒认证：一种基于函数优化的框架
通过一种新的框架，使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性，并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。
PDF4 years ago
ICLR通过随机平滑，对前 k 个预测的鲁棒性进行认证，以防对抗扰动
通过引入随机化平滑化技术，本篇论文提出了一种可对 Top-K 预测进行认证的分类器鲁棒性保护方法，并在 CIFAR10 和 ImageNet 上进行了实证评估。
PDF5 years ago
ICLR通过深度模型集成增强可证明的鲁棒性
本文提出了一种算法，通过优化加权基本模型，对深度模型群集的认证稳健性进行增强，实验结果证明了该算法可以形成比 naive 平均所有可用模型更为稳健的群集，并且通常具有更好的准确性。
PDF5 years ago
Wasserstein 平滑：对抗 Wasserstein 攻击的可靠鲁棒性保证
本文提出了第一个具有认证鲁棒性的防御网络，以抵御基于 Wasserstein 度量的对抗攻击，并证明该防御方法在 MNIST 和 CIFAR-10 数据集上能显著提高精度。
PDF5 years ago