本文研究大型语言模型中的安全问题，提出两种安全训练的失败模式，分别是竞争目标和广义不符合。作者发现，这些安全问题无法通过红队测试和安全培训解决，并提出需要将安全机制的复杂度与模型的能力相匹配。

Jul, 2023

大型语言模型（LLMs）存在潜在的安全隐患，因此需要发展预防措施。本研究揭示了LLMs内存在的多语言破解挑战，并针对意外和恶意的风险场景进行了探讨。实验结果显示，在多语言环境中，通过自卫框架进行训练可以显著减少LLMs生成的不安全内容。

Oct, 2023

通过将目标优先级整合到训练和推理阶段，我们提出了一种对抗越狱攻击的方法，显著降低了越狱攻击的成功率，并减少了大型语言模型的潜在安全风险。

Nov, 2023

本文探讨大型语言模型在多语言环境中的安全挑战，并讨论缓解此类问题的方法。通过比较先进的语言模型对高资源语言和低资源语言下恶意提示的响应，我们发现低资源语言中的恶意提示往往导致不安全的回答，并且语言模型对低资源语言的恶意提示产生更多的无关回答。此外，我们发现提高模型对高资源语言的训练并没有带来显著改善，表明跨语言对齐的瓶颈在于预训练阶段。我们的发现凸显了跨语言大型语言模型安全的挑战，并希望这些发现能指导未来的研究。

Jan, 2024

通过广泛的实证研究，我们对多语言越狱攻击进行了深入探究，提出了一种新的语义保持算法来创建多语言越狱数据集，并对包括GPT-4和LLaMa在内的开源和商业语言模型进行了详尽评估，并实施了微调缓解方法。我们的发现显示出，我们的缓解策略显著增强了模型的防御能力，将攻击成功率降低了96.2%。这项研究为理解和缓解多语言越狱攻击提供了宝贵的见解。

Jan, 2024

通过建立全面的1445个有害问题的评估数据集，本研究对11个不同的大型语言模型和多模式大型语言模型进行了广泛的试验，发现GPT-4和GPT-4V相对于开源的大型语言模型和多模式大型语言模型表现出更好的恶意入侵攻击耐受性，而Llama2和Qwen-VL-Chat相对于其他开源模型表现出更高的鲁棒性，并且相对于文本恶意入侵攻击方法，视觉恶意入侵攻击方法的可迁移性相对有限。

Apr, 2024

本研究针对大型语言模型（LLM）在非英语环境下的安全性漏洞进行了调查，填补了当前研究的空白。我们通过构建一个包含不安全意大利问答对的新数据集，发现意大利LLM在多次越狱提示下表现出明显的不安全行为，尤其是在少量不安全示范的情况下，这种不安全倾向会迅速加剧。

Aug, 2024

本研究针对大型语言模型（LLMs）在生成有害内容方面的安全性评估缺乏足够基准的问题，提出了一种新颖的动态基准h4rm3l，用于可组合越狱攻击。研究显示，该方法生成的2656种越狱攻击在有效性上超过90%，为理解LLMs的安全局限性和发展强大防御提供了支持。

Aug, 2024

本研究旨在揭示大型语言模型（LLMs）的潜在安全漏洞，尽管它们通常具备安全响应功能，实际上依然存在未被发现的风险。我们提出了一种名为监狱值解码（JVD）的新解码策略，该策略利用成本值模型作为检测器和攻击者，成功诱导安全模型生成有害内容。研究发现，LLMs可能被用作收集有害数据或发起隐秘攻击的工具，表明其安全性不足。

Aug, 2024

本研究解决了大型语言模型在越狱攻击中的脆弱性，现有方法无法灵活调整攻击强度。我们提出了一种新颖的可扩展越狱攻击，通过占用计算资源来预先触发安全政策的激活，以实现高成功率的安全措施绕过。实验结果表明，该方法在各种模型规模上都表现良好，揭示了当前LLM安全设计中的关键漏洞。

Oct, 2024