adversarial vulnerabilities | BriefGPT

关键词adversarial vulnerabilities

搜索结果 - 6

坚如磐石：开源基础模型能否用于为下游任务创建对抗性例子？
基于开源的基础模型 CLIP 的先前训练，我们揭示了其对下游模型的共享对抗性漏洞，并提出了一种名为 Patch Representation Misalignment（PRM）的简单而有效的对抗性攻击策略，该方法可以同时欺骗 4 个常见视觉
PDF3 months ago
对基础视觉模型的对抗性攻击
本研究通过攻击深度特征表示来操纵开放世界感知模型，以解决封闭集下游任务，并在白盒、黑盒和模型类型迁移的情况下展示攻击的有效性，旨在识别这些模型的关键敌对弱点，以提高未来设计的鲁棒性。
PDF10 months ago
Order-Disorder: 模拟对抗攻击用于黑盒神经排序模型
本文提出了一种模仿对抗攻击的方法，通过基于梯度的攻击方法生成对抗触发器，对各种最先进的神经排名模型进行排序伪造，从而对抗黑盒神经通道排名模型的扰动攻击。
PDF2 years ago
深度学习函数从图像中学习特征空间中的决策边界和凸包
通过研究深度神经网络在图像分类和学习方面的成功，我们开发了方法和公式来研究模型中的特征空间，以此去理解决策边界在特征空间和像素空间中的几何构成和所带来的影响，进一步探讨其对对抗性漏洞、图像变形、外推，模糊分类以及数学上的理解等方面的启示。
PDF2 years ago
针对 DNN 的实用无盒对抗攻击
通过使用少量的样本，本研究提出了三种机制进行训练，其中原型重建是最有效的，生成的对抗性样本可成功地转移至各种图像分类和面部验证模型，最终的应用结果显示我们的方法能够显著降低商业名人识别系统的预测准确率近 15.4％。
PDF4 years ago
DVERGE: 增强集合模型的多样化漏洞生成
研究发现，针对图像分类的 CNN 模型存在重叠的对抗性漏洞，DVERGE 通过提取非鲁棒特征并使对抗性漏洞多样化，实现了针对转移攻击的高鲁棒性。
PDF4 years ago