大型语言模型在理解复杂指令方面显示出令人印象深刻的能力，但是它们对提供的指令的盲目奉承引发了对恶意使用风险的担忧。本文介绍了这种语义审查方法的理论局限性，并指出由于大型语言模型的编程和按指令行事的能力而产生的审查所带来的困难。此外，我们认为这些挑战不仅仅局限于语义审查，有了足够的背景知识，攻击者可以从一组允许的输出中重构出不可接受的内容。因此，我们建议重新评估审查问题，并将其视为一个安全问题，采用基于安全的方法来减轻潜在的风险。

Jul, 2023

对三种LLM（Large Language Models）技术（Low-Rank Adaptation、Soft Prompt Tuning和In-Context Learning）在隐私和安全方面的鲁棒性进行评估，结果表明在LLM适应性中不存在绝对的隐私和安全解决方案。

Oct, 2023

使用大型语言模型（LLMs）作为LLM集成应用程序的服务后端的情况下，我们发现了潜在的攻击面和漏洞，并开发了一种轻量级、抗威胁的防御方法，以最大程度减少威胁并保证应用程序的完整性、来源识别、攻击可检测性和实用性保留。

Nov, 2023

这篇论文探讨了大型语言模型与安全和隐私的交叉领域，研究了它们对安全和隐私的积极影响、潜在的风险和威胁，以及模型本身的固有漏洞。通过全面的文献综述，将研究结果分为“有益”的应用、恶意应用和漏洞及其防御措施。论文还指出了需要进一步研究的领域，并希望通过该研究揭示大型语言模型在加强和危及网络安全方面的潜力。

Dec, 2023

在本文中，我们系统地分析了LLM系统的安全性，通过建立信息流及其在LLM内部和LLM与其他对象之间的一致性约束，将LLM系统的攻击面分解为三个关键部分：多层安全分析，约束存在性分析和这些约束的鲁棒性分析。通过对最新的LLM系统OpenAI GPT4的多层和多步骤分析，我们发现了不仅仅存在于LLM模型本身，还包括与其他组件整合的安全问题。我们发现尽管OpenAI GPT4已经设计了多重安全约束来提高其安全性，但这些安全约束仍然容易受到攻击。为了进一步展示我们发现的漏洞的现实威胁，我们构建了一个端到端攻击，黑客可以非法获取用户的聊天历史，而无需操纵用户的输入或直接访问OpenAI GPT4。

Feb, 2024

使用自然语言界面定义应用程序和其交互，SecGPT提出了一种基于LLM的系统架构，旨在减轻第三方应用程序执行所引起的安全和隐私问题，并评估其性能开销。

Mar, 2024

对大型语言模型（LLMs）的安全与隐私问题进行了全面的研究，从安全与隐私问题、对抗性攻击的脆弱性、滥用影响、缓解策略以及当前策略的局限性等五个主题角度进行深入探讨，并提出了未来研究的有前景的方向，以增强LLMs的安全和风险管理。

Mar, 2024

通过双向锚定方法优先选择与有害示例接近但远离良性示例的数据点，我们的方法有效地识别了在微调后可能降低模型安全性的良性数据子集。

Apr, 2024

我们的研究旨在针对恶意文件开发强大的大型语言模型（LLMs）防御机制，并通过指导调整来提高它们处理危险内容的能力，同时维持其效用和安全之间的平衡。在我们的实证结果中，LLMs可以通过适当的指导调整显著增强它们处理危险内容的能力。此外，加强易受滥用任务的防御策略对于保护LLMs免受处理有害信息的影响是有效的。我们还观察到防御策略中存在效用与安全之间的权衡，其中采用我们提出的方法的Llama2相比Llama1具有更好的平衡。

May, 2024

本研究针对对齐大语言模型在安全性方面的挑战，阐明了内部参数在安全维护中的作用，揭示了识别恶意查询的关键“安全层”。提出了一种新颖的微调方法——安全部分参数微调(SPPFT)，有效防止了安全性下降，同时节省计算资源，保持模型性能。

Aug, 2024