利用语言模型生成针对性蜜语
HoneyGPT 是一种基于 ChatGPT 的新一代智能蜜罐解决方案，具有成本效益高、适应性强和增强的互动性，在主动攻击者参与方面有着重要作用。他们通过结构化提示工程框架，增强了互动性和欺骗性，加深了安全分析，并确保了持续的参与。评估结果表明，HoneyGPT 在灵活性、互动深度和欺骗能力之间取得了良好的平衡，与现有蜜罐技术相比，能更有效地吸引攻击者进行更深入的互动参与，并捕获更多的新型攻击向量。
Jun, 2024
本研究提出了一种基于大型语言模型的动态真实软件蜜罐的新方法，初步结果表明该方法能够解决先前蜜罐的一些重要限制，如确定性应答、适应性不足等，我们通过与攻击者实施的实验评估了每个命令的真实性，所提出的蜜罐（称为 shelLM）的准确率达到 0.92。
Aug, 2023
本篇论文研究了大型语言模型在密码建模中的效力，介绍了一种名为 PassGPT 的大型语言模型，并在密码生成中表现出众，比起之前基于生成对抗网络的方法，猜对了两倍数量的新密码，同时，文章提出了引导密码生成的概念，利用 PassGPT 采样过程生成符合任意约束的密码。最后，文章对 PassGPT 定义密码的熵和概率分布进行了深入分析，并讨论其在增强现有密码强度评估器方面的应用。
Jun, 2023
本文比较了不同的基于深度学习的密码猜测方法，包括循环神经网络、生成对抗网络、自编码器以及注意机制，并在非定向离线攻击中提出了使用 IWGAN 变体进行密码猜测的实验设计，该方法可以提高密码安全性并创建更准确和高效的密码强度计。
Aug, 2022
研究纵观 Adversarial Machine Learning 防御策略的不足，通过建立 HoneyModels 模型，给模型添加特定知识水印来检测对抗性攻击，实验表明该模型可以检测到 69.5% 的攻击，并保留原模型的功能。
Feb, 2022
本文提出了一种名为 “神经钓鱼” 的新型实用数据提取攻击，可以使攻击者从基于用户数据训练的模型中目标和提取敏感或个人身份信息（PII），例如信用卡号码，攻击成功率高达 10%，有时甚至高达 50%。攻击方法仅需要攻击者将数十个看似良性的句子插入训练数据集，对用户数据的结构仅具有模糊的先验假设。
Mar, 2024
PagPassGPT 是一种基于 Generative Pretrained Transformer (GPT) 的密码猜测模型，利用模式结构信息进行策略引导猜测，从而显著提高猜中率；此外，我们提出了 D&C-GEN 来减少生成密码的重复率，采用分治法思想将猜测密码的主任务递归地划分为非重叠子任务，并从父任务中继承知识并预测后续标记；与现有模型相比，我们的方案在正确猜测密码的同时减少了 25% 的重复率。
Apr, 2024
通过研究语言模型监管的方法和攻击，本文提出一种自动破解监管的方法，即引入语意防火墙概念并提供三种技术实现方式，从而成功地实施了 “自欺” 攻击。实验证明该方法的有效性，为未来研究提供了启示。
Aug, 2023
使用来自攻击模型的嵌入和优化过程插入模型词汇，我们证明了我们的方法可以成功劫持两个流行的开源大语言模型 Llama2 和 Flan-T5，并显示了我们的方法具有不易被察觉的特点，且仅需插入单个词汇即可进行攻击，我们还证明可以使用不同于目标模型的模型进行攻击。
Apr, 2024