jailbreaks | BriefGPT - AI 论文速递

关键词jailbreaks

搜索结果 - 6

通过密码字符对大型语言模型进行越狱以对抗审核管控
引入 JAMBench 作为一个有害行为基准测试，通过 160 个手工制作的指令来触发和评估适度保护措施；提出了 JAM 方法，通过越过输入级别的过滤器和生成密文字符来绕过输出级别的过滤器，攻击适度保护措施。经过对四个 LLMs 的广泛实验
PDFa month ago
大型语言模型中非标准 Unicode 字符对安全和理解的影响
通过比较分析十五个不同模型的表现，我们揭示了这些模型固有的脆弱性，挑战了它们人类级语言理解的观念，并探讨了非标准 Unicode 字符对 LLMs 的影响及其在最佳性能 LLMs 上的保护机制，包括 GPT-4、Gemini 1.5 Pro
PDFa month ago
对控制权空洞越狱的强制拒绝
大型语言模型（LLMs）的崛起引起了对 “越狱” 存在的关注，本研究通过使用高质量问题集和更准确的评分算法，提出了一个更好地区分有效和无效越狱的新基准，结果表明这种新的评分方案更符合人类对回答质量和越狱有效性的判断。
PDF5 months ago
COLD-Attack: 使用隐秘性与可控性越狱线性语言模型
大型语言模型（LLMs）上的越狱问题近来引起了越来越多的关注，本文提出了可控制的攻击生成问题，并构建了与自然语言处理中可控制文本生成问题之间的联系，通过 COLD-Attack 框架统一并自动化了对各种控制要求下的对抗性 LLM 攻击的搜索
PDF5 months ago
GUARD：通过角色扮演生成自然语言越狱以测试大型语言模型的指南遵循性
使用角色扮演系统结合知识图谱生成监狱破解方法，验证 LLMs 对监管规定的遵从性，并在不同模态下展示 GUARD 的多样性和对更安全可靠的 LLM 应用的有价值见解。
PDF5 months ago
欺骗 LLMs 反抗：理解、分析和预防越狱
本研究提出了形式主义和已知（和可能的）越狱攻击分类，并在开源和商业 LLM（如 GPT 3.5，OPT，BLOOM 和 FLAN-T5-xxl）上进行了现有越狱方法及其有效性的调查；我们进一步提出了一组有限的提示守卫，并讨论了其对已知攻击类
PDFa year ago