attack success rates | BriefGPT

关键词attack success rates

搜索结果 - 10

基于语义特征的隐形后门攻击
提出了一种新颖的后门攻击方法，通过使用预训练的受害模型从干净图像中提取低级和高级语义特征，并基于通道注意力生成与高级特征相关联的触发模式，然后使用编码器模型生成受污染的图像，同时维持对后门防御的鲁棒性，实验结果表明，该攻击方法在三个知名图像
PDFa month ago
EasyJailbreak：面向大型语言模型的统一越狱框架
EasyJailbreak 是一个统一的框架，简化了对大型语言模型的越狱攻击的构建和评估，支持 11 种不同的越狱方法，并揭示了各种越狱攻击下 10 种不同语言模型的平均漏洞概率为 60%，GPT-3.5-Turbo 和 GPT-4 的平均
PDF3 months ago
研究针对设备端模型的白盒攻击
通过反向工程方法从移动设备应用程序中彻底提取并逆向编译模型，研究了白盒攻击策略对移动设备模型的攻击效果，发现使用白盒策略能够大大提高攻击成功率并减小攻击干扰，强调了开发人员需要谨慎考虑模型部署策略，使用白盒方法评估移动设备模型的安全性。
PDF5 months ago
对 LLM 的越狱攻击进行全面评估
对大型语言模型 (也称为 LLMs) 的滥用进行了研究，发现存在越过社会伦理道德保障的破解攻击，相关研究呈现了不同的破解方法和违规类别，展示了破解提示的攻击效果，以及破解攻击与模型之间的转移性。这一研究强调了对不同破解方法进行评估的必要性，
PDF5 months ago
文本到图像生成中的非对称偏差与对抗攻击
对文本到图像模型中的对抗攻击进行了实证研究，发现了攻击成功率的相关因素，提出了实体替换的新攻击目标，分析了对抗攻击的指标，以及成功概率高和低的条件。
PDF6 months ago
对物理世界中红外行人检测器的对抗性红外曲线攻击
深度神经网络安全是一个持久关注的问题，现有研究主要关注可见光物理攻击，对红外领域的探索有限。针对这些差距，我们提出了 Adversarial Infrared Curves (AdvIC)。通过使用粒子群优化，我们优化了两个贝塞尔曲线，并在
PDF6 months ago
鹦鹉训练的对抗样本：推动黑盒音频攻击对话者识别模型的实践性
通过最小化黑箱攻击者对目标说话者识别模型的了解，我们提出了一种新机制，称为鹦鹉训练，通过生成听起来像目标说话者的合成语音样本来针对目标模型生成对抗样本，并在联合可迁移性和感知质量框架下研究不同的方法来生成具有高可迁移性和良好人类知觉质量的对
PDF8 months ago
CVPR通过 3D 建模实现自然服装纹理以规避人体检测器
本文提出了一种利用 3D 建模技术生成的伪装纹理，来制作能够有效规避多角度人体检测器的伪装服装，实验结果表明这类服装具有较高的攻击成功率。
PDFa year ago
AAAI使对抗样本更易于迁移和难以区分
通过应用 Adam 迭代快速梯度 tanh 方法 (AI-FGTM) 来生成具有高传递性的难以区分的对抗性例子，其成功率更高，具有更好的传递性和难以区分性。
PDF4 years ago
用基于迁移的先验知识加强黑盒对抗攻击
介绍了一种基于先验指导的随机无梯度（P-RFF）攻击方法，它利用了传输先验和查询信息，需要的查询次数更少、攻击黑盒模型的成功率更高，相较于现有最先进的方法。
PDF5 years ago