adversarial samples | BriefGPT

关键词adversarial samples

搜索结果 - 70

通过进化对抗实例评估深度学习算法选择模型的鲁棒性
深度神经网络逐渐被用于在组合优化领域中进行算法选择，尤其是在避免设计和计算特征的输入表示方面。然而，深度卷积网络在对抗示例方面存在漏洞，而最近在装箱问题领域中显示出潜力的深度递归网络是否同样易受攻击尚不清楚。本研究使用进化算法在在线装箱基准
PDF8 days ago
MirrorCheck：视觉语言模型的高效对抗性防御
通过利用 Text-to-Image 模型根据 Vision-Language Models 生成的标题产生图像，并在特征空间中计算输入图像和生成图像的嵌入相似性以识别对抗样本，我们提出了一个新颖而简单的方法来检测 Vision-Langu
PDF19 days ago
DMS: 解决实用对抗攻击中的信息丢失问题的多步骤方法
通过研究信息损失对深度神经网络在对抗样本上的效果的影响，本文提出了 Do More Steps (DMS) 算法，利用梯度信息来减少信息损失，从而提升攻击性能。通过在两个大规模数据集上的实验证明了 DMS 算法相对于标准方法在保持攻击完整性
PDF23 days ago
一个扰动就足够了：关于生成对抗视觉语言预训练模型的通用对抗扰动
我们展示了 Vision-Language Pre-training（VLP）模型对新型的通用对抗扰动（UAP）攻击的脆弱性，并提出了一种基于多模态对齐的 Contrastive-training Perturbation Generato
PDF24 days ago
ED-SAM：一种高效的扩散抽样方法用于视觉 - 语言基础模型中的领域泛化
本文介绍了一种新的简单而高效的扩散采样方法（ED-SAM），以提高视觉语言基础模型的泛化能力，并通过生成对抗样本来改善模型对未知数据分布的适用性。实验结果表明，与其他最近的方法相比，所提出的 ED-SAM 方法在不同规模的视觉语言预训练数据
PDFa month ago
通过标准化逻辑输出校准和截断特征混合改进可转移的有针对性对抗攻击
本文旨在提高有针对性攻击中对抗样本的可转移性，通过在损失和特征方面提出两种不同的改进方法。首先，我们引入了一种新的规范化对数准确度校准方法，它同时考虑了对数边界和对数的标准差。其次，我们进一步研究了截断特征混合方法来减小源训练模型的影响，从
PDF2 months ago
BB-Patch: 使用零阶优化的黑盒对抗性贴片攻击
通过黑盒对抗攻击策略产生的对抗性补丁可以在输入图像的任意位置进行对抗攻击。
PDF2 months ago
PASA: 使用预测和归因敏感性分析的攻击不可知的无监督对抗检测
深度神经网络在分类方面容易受到对抗性攻击影响，本文提出了一种基于特征归因的方法来检测对抗样本，其能够可靠地检测到对抗样本，并在性能上优于目前最先进的统计无监督对抗检测器。
PDF3 months ago
CVPR基于对抗学习的鲁棒三维姿势转移
通过引入对抗样本训练的方式来提升模型的鲁棒性，同时通过多尺度掩膜策略学习任意的嘈杂姿势，使用 3D-PoseMAE 实现了更高质量的姿势转换，并展示了方法在不同领域、不同姿势甚至原始扫描数据上的强大泛化能力。
PDF3 months ago
COLINGRoCoIns：通过代码风格指导提升大型语言模型的鲁棒性
通过将代码风格的指示替代自然语言指示，本文提供了更精确的指示，并增强了大语言模型的鲁棒性。同时，通过使用干净和对抗样本来构建上下文演示，我们进一步提高了大语言模型的鲁棒性。实验结果表明，我们的方法在八个鲁棒性数据集上持续优于自然语言指令的大
PDF4 months ago
通过特征解缠缚来缓解对抗鲁棒性中的特征差距
我们提出了一种基于潜在特征解缠的方法，以明确建模并进一步消除导致特征差异的潜在特征，从而提高深度神经网络对抗样本的鲁棒性。实证评估表明，我们的方法超越了现有的对抗微调方法和对抗训练基线。
PDF5 months ago
FIMBA: 通过特征重要性对抗攻击评估基因组学 AI 的鲁棒性
AI 在生物技术应用和基因组测序中的持续增长以及广泛采用影响到药物发现和临床结果等重要决策流的 AI 模型的脆弱性，本文展示了将重点放在输入转换上的攻击通过模仿真实数据和混淆模型决策，最终导致模型性能显著恶化；此外，通过使用基于变分自动编码
PDF5 months ago
借鉴过去：基于代理的对抗性防御框架提升稳健性能
一篇关于深度学习模型鲁棒性和对抗性训练的研究论文，提出了一个基于历史状态的更新规则和自蒸馏的防御目标，以提高模型的鲁棒性和训练稳定性。
PDF8 months ago
MM基于 Transformer 的对抗攻击在安全领域中的有效性
评估了变压器对系统防御者的恶意样本的强健性以及对系统攻击者的对抗性样本的可迁移性，发现变压器所生成的对抗样本具有最高的可迁移率，对其他模型具有更强的对抗性，强调了研究在安全领域中使用变压器架构进行攻击和防御的重要性，并建议将其作为转移攻击设
PDF8 months ago
评估中文大型语言模型中的幻觉
在这篇论文中，我们建立了一个名为 HalluQA 的基准，用于衡量中文大型语言模型中的幻觉现象。HalluQA 包含 450 个精心设计的对抗性问题，涵盖多个领域，并考虑了中国的历史文化、习俗和社会现象。我们在构建 HalluQA 过程中考
PDF9 months ago
动态神经网络即所需要的：理解神经网络中动态机制的鲁棒性
通过对三个模型和两个数据集进行评估，我们发现从 DyNNs 到 SDNNs 的攻击传递性高于从 SDNNs 到 DyNNs 的攻击传递性，以及 DyNNs 可以更高效地生成对抗样本。然后，通过研究，我们提供了增强 DyNNs 对静态模型生成
PDF10 months ago
计算机视觉中对抗攻击综述
深度神经网络被广泛用于各种下游任务，尤其是自动驾驶等安全关键场景，但深度网络常常受到对抗样本的威胁。对抗攻击可以分为白盒攻击和黑盒攻击，前者攻击者知道模型的参数和梯度，后者攻击者只能获取模型的输入和输出。攻击者的目的可以分为有目标攻击和非有
PDFa year ago
AdjointDPM：扩散概率模型的梯度反向传播的伴随敏感度方法
使用概率扩散模型自适应定制的新方法 AdjointDPM，采用伴随灵敏度方法通过解决带有增广 ODE 的概率流 ODE 来进行梯度反向传播，从而实现对模型参数和生成内容的梯度控制，进而在可视效果转换、特定类型风格化和安全审计等任务上展示了
PDFa year ago
ICCV构建更稳健的模型：频率偏差
该研究针对深度神经网络在对抗样本上的脆弱性，提出了一种名为频率偏好控制模块的插件，它能够自适应地重新配置中间特征表示的低频和高频成分，以更好地利用频率进行鲁棒学习。实证研究表明，这种模块可以轻松地与任何对抗训练框架相结合，在不同体系结构和数
PDFa year ago
基于微生物遗传算法的黑盒攻击可解释的深度学习系统
本文提出了一种称为 QuScore 的查询效率高的面向 IDLS 攻击的黑盒攻击方法，该方法基于转移方法和基于得分的方法，采用有效的微生物遗传算法。该方法能够以更高的效率降低成功攻击所需的查询数量，并且在 ImageNet 和 CIFAR
PDFa year ago