jailbreak prompts | BriefGPT

关键词jailbreak prompts

搜索结果 - 7

不要听我说：理解和探索大型语言模型的越狱提示
通过系统化研究和用户调查，我们发现生成式 AI 技术中的大型语言模型 (LLMs) 存在滥用、绕过安全限制的风险，尤其是使用 jailbreak prompts 进行潜在有害内容的生成，为了应对这一问题，我们开发了一个基于人工智能的系统来自
PDF3 months ago
语义镜像越狱：基于遗传算法的越狱提升开放源码 LLMs
介绍了一种利用语义镜像破解方法来生成与原始问题语义相似的破解提示，通过基因算法生成合适的破解提示，相比基线方法，该方法的攻击成功率提升了最多 35.4%（无 ONION 防御）和 85.2%（有 ONION 防御），同时在破解提示的语义相关
PDF4 months ago
狼穿羊皮：通用嵌套越狱引导轻易蒙骗大型语言模型
基于自动生成的破解提示，我们提出了 ReNeLLM 框架来改进大型语言模型的攻击成功率，同时降低时间成本；我们的研究揭示了当前防御方法在保护大型语言模型方面的不足，并从提示执行优先级的角度进行了详细的分析和讨论。
PDF8 months ago
可扩展和可迁移的语言模型黑盒越狱通过角色调制
探讨了人设调节作为黑盒越狱方法，用于引导目标模型具备遵循有害指令的个性。我们利用自动生成的越狱命令展示了多种有害完成操作，包括合成甲基苯丙胺、制造炸弹和洗钱的详细指南。这些自动化攻击在 GPT-4 中的有害完成率为 42.5%，是调节之前（
PDF8 months ago
AutoDAN：生成对齐的大型语言模型上隐蔽越狱提示
通过精心设计的分层遗传算法，AutoDAN 能够自动生成隐秘的越狱提示，不仅自动化了过程同时保持语义的意义，并且在跨模型转移性和交叉样本普适性方面表现出优越的攻击力，比基线方法更好。此外，我们还将 AutoDAN 与基于困惑度的防御方法进行
PDF9 months ago
现在做任何事情”：对大型语言模型中的自由研究提示进行特征化和评估
通过对 wild 中的 jailbreak prompts 进行第一次测量研究，我们发现了 jailbreak prompts 的独特特征以及其攻击策略，并评估了当前 LLMs 和保护措施在各种情况下不能充分防御 jailbreak pro
PDFa year ago
通过提示工程实现 ChatGPT 越狱：一项实证研究
本研究研究了 Large Language Models（LLMs）中存在的内容限制和潜在误用的挑战，并调查了与破解 LLMs 相关的三个关键问题：不同提示类型的数量、提示对抗 LLMs 限制的有效性以及 ChatGPT 对这些提示的鲁棒性
PDFa year ago