Feb, 2024

SPML:一种用于抵御提示攻击的语言模型领域特定语言

TL;DR该论文介绍了系统提示元语言(SPML),用于改进和监控基于大型语言模型的聊天机器人的输入,以防止恶意执行,优化成本,并展示了具有 1.8k 系统提示和 20k 用户输入的开创性基准,从而超越了 GPT-4,GPT-3.5 和 LLAMA 等模型。