BriefGPT.xyz
Ask
alpha
关键词
chat templates
搜索结果 - 1
ChatBug:由聊天模板引起的对齐 LLM 的常见漏洞
大型语言模型(LLMs)在遵循用户指令和进行对话方面具有重要意义。本文研究了聊天模板对 LLMs 安全对齐的影响,并发现了一个名为 ChatBug 的潜在漏洞。通过两种攻击方式,我们证明恶意用户可以利用 ChatBug 漏洞有效引导 LLM
→
PDF
19 days ago
Prev
Next