本文提出了一种基于机器学习的网络钓鱼攻击检测技术，通过收集和分析 4000 多封针对北达科他大学电子邮件服务的网络钓鱼电子邮件，模拟这些攻击，通过选择 10 个相关特征和构建大型数据集进行训练，采用人工神经网络算法，实验结果表明使用人工神经网络可以实现更好的检测效果。四个指标用于性能评估：检测概率、错过检测概率、误报概率和准确度。

Jan, 2022

该研究提出了一种高性能的机器学习模型来解决钓鱼邮件的问题，并利用公共数据集进行验证。该模型在现实应用中表现出色，其 f1 得分达到 0.99，并集成了可解释的人工智能（XAI）以提高用户的信任度，提供实时基于 Web 的应用程序以帮助用户检测钓鱼邮件，为打击钓鱼行为做出实际而高度准确的解决方案。

May, 2024

本论文通过提出 AbuseGPT 方法展示了现有生成式人工智能聊天机器人服务如何被攻击者利用在现实世界中创建短信网络钓鱼文本，最终导致更加狡猾的短信网络钓鱼活动，并探讨了一些未来的研究方向和指导方针来保护生成式人工智能服务的滥用以及保护用户免受短信网络钓鱼攻击。

Feb, 2024

使用 ChatGPT 开发高级网络钓鱼攻击并自动化大规模部署的可能性。通过 ChatGPT 生成网络钓鱼攻击的各个部分，包括克隆目标网站、集成窃取凭证的代码、混淆代码、自动化网站部署、注册网络钓鱼域名并与反向代理集成。初步评估自动生成的网络钓鱼套件突出了其快速生成和部署过程，以及产生页面与目标网站的极高相似性。广泛来说，我们展示了人工智能的最新进展突显其在网络钓鱼攻击中被滥用的潜在风险，这可能导致网络钓鱼的普遍性和严重性不断增加。这凸显了在人工智能系统中加强对策的必要性。

Sep, 2023

本文调查了利用人工智能聊天机器人 ChatGPT 通过自动化对抗仿冒邮件的骗子的可行性，并发现 ChatGPT 能够成功干扰骗子的活动，因此证明了利用 AI 是对抗网络威胁有效的工具。

Feb, 2023

使用层次化深度神经模型生成有结构的邮件以应对基于高级机器学习和自然语言技术的社交攻击的检测问题。

Jul, 2020

本研究分析了 15 个大型语言模型（LLMs）在检测网络钓鱼邮件方面的效果，重点关注 “419 诈骗” 邮件。实验证明 ChatGPT 3.5、GPT-3.5-Turbo-Instruct 和 ChatGPT 是最有效的钓鱼邮件检测模型。

Apr, 2024

本研究探讨了使用大型语言模型（LLMs）生成针对性钓鱼信息以及它们与人工创作信息在性能上的比较的问题。实验对 GPT-4 和人工作者创作的、经过个性化定制的 smishing（短信钓鱼）信息的有效性进行了比较。目标评估了采用一种称为 TRAPD（阈值排序法）的新方法的信息，在该方法中，目标提供了个人信息（职位和地点、爱好、在线购买物品），人类和 GPT-4 根据这些信息创建了针对性的 smishing 信息，然后邀请目标重新对 12 个信息按照说服力的高低进行排序（并标识出他们会点击哪个信息），然后针对他们对信息排序的原因进行了提问。结果显示，25 名目标认为，LLM 生成的信息通常比人工创作的信息更具说服力，其中与职位相关的信息最具说服力。我们还对评估信息真实性使用的不同标准进行了描述，包括词汇选择、风格和个人相关性。结果还表明，目标无法确定信息是由人工生成还是由 AI 生成，并且在确定区分标准时存在困难。本研究旨在强调对个性化 AI 助力的社交工程攻击进行进一步研究和改进对策的紧迫性。

Jun, 2024

通过对大规模语言模型在网络钓鱼领域的应用研究，发现现有的大规模语言模型对于网络罪犯在网络钓鱼攻击中的情报收集和信息生成阶段提高了效率，在此基础上，通过 600 个英国议员的案例研究发现应用于网络钓鱼的语言模型不仅效果逼真，且花费非常低；在此基础上，提出了两种解决方案，即应用程序接口等结构化访问方案和基于大规模语言模型的防御系统，强调了治理干预的必要性。

May, 2023

本文提出方案利用 Cyber Kill Chain 对 Generative Artificial Intelligence 技术进行威胁抵御，通过强化侦测、欺骗以及对抗等多种策略有效减轻 GenAI 引起的网络攻击风险。

Jun, 2023