certifiable robustness | BriefGPT

关键词certifiable robustness

搜索结果 - 9

可证明鲁棒检索错误的 RAG 模型
在本文中，我们提出了 RobustRAG 作为对抗检索污染攻击的第一个防御框架，通过采用独立后聚合策略，我们设计了基于关键词和解码的算法，以安全地聚合非结构化文本响应，并证明了 RobustRAG 在某些查询上能始终返回准确的响应，即使攻击
PDFa month ago
构建增强量子机器学习鲁棒性的最佳噪声通道
通过构建一类本质上为 ε- 差分隐私的噪声通道，我们成功地复制了退极化和随机旋转通道的 ε- 差分隐私边界，从而验证了我们框架的广阔普遍性。我们还使用半定规划构建了一个最优鲁棒通道，在小规模实验评估中证明了使用最优噪声通道相对于退极化噪声的
PDF2 months ago
PatchCURE：提高对抗性贴纸防御的可证明鲁棒性、模型效用和计算效率
PatchCURE 是一个能够平衡证明鲁棒性、模型效用和计算效率的防御框架，能够提供一系列不同效率级别下的最强防御性能和最高效的推理效率。
PDF8 months ago
ICML线性嫁接：松弛神经元修剪有助于可证明的鲁棒性
本文提出一种新的解决方案，通过手术人工神经元，进行神经元移植实现对 DNN 表达力和鲁棒性的权衡，通过线性化不重要的 ReLU 神经元来减少大型 DNN 中的非线性成分，最终实现在维持可证明性的前提下提高模型表现的目的。
PDF2 years ago
ObjectSeeker: 通过 Patch-agnostic 掩蔽实现可靠的抗拒绝服务攻击物体检测
本文提出 ObjectSeeker 用于解决物体探测对象易受攻击者掩盖的补丁攻击问题，通过 patch-agnostic 掩蔽策略实现通过任何白盒自适应攻击的高可信物体检测，证明了其较往前研究在可信鲁棒性方面的显著改进。
PDF2 years ago
中心平缓化：针对具有结构化输出网络的认证健壮性
本研究将证明对抗鲁棒性的研究扩展到具有更一般和结构化输出的问题，并将输出空间建模为度量空间，利用距离 / 相似函数等技术应用于图像分割，物体检测和生成模型等机器学习问题。本研究中的中心平滑程序使用随机平滑技术产生确保在输入的任何有界范数对抗
PDF3 years ago
ICLR针对图像分类器补丁攻击的高效认证防御
本文提出了 BagCert 架构和认证程序，通过一种新的损失函数实现认证不同大小和位置的对抗破坏，并在 CIFAR10 数据集上取得了对 5x5 对抗破坏下 86% 的准确率和 60% 的认证准确率。
PDF3 years ago
CVPR使用带有铰链正则化的最优输运实现分类鲁棒性
利用最优传输的 Kantorovich- Rubinstein 对偶公式的铰链正则化版本，提出了一个新的框架来学习 1-Lipschitz 神经网络，并在此基础上进行分类。该方法能够提高网络的鲁棒性、具有可验证的鲁棒性边界，并在不降低准确度
PDF4 years ago
ICLR带有认证网络的通用逼近
本文证明了对于任何连续函数 f，都存在一个网络 n，使得 n 能够逼近 f 并在 n 中通过简单区间传播得到的在区间 B 上的输出结果能够任意接近 f 在 B 上的最优值。这个结果可视为针对间隔认证 ReLU 网络的通用逼近定理。据我们所知
PDF5 years ago