Sep, 2023

AI 的黑暗面探索：使用 ChatGPT 进行高级网络钓鱼攻击的设计与部署

PDF
TL;DR使用 ChatGPT 开发高级网络钓鱼攻击并自动化大规模部署的可能性。通过 ChatGPT 生成网络钓鱼攻击的各个部分，包括克隆目标网站、集成窃取凭证的代码、混淆代码、自动化网站部署、注册网络钓鱼域名并与反向代理集成。初步评估自动生成的网络钓鱼套件突出了其快速生成和部署过程，以及产生页面与目标网站的极高相似性。广泛来说，我们展示了人工智能的最新进展突显其在网络钓鱼攻击中被滥用的潜在风险，这可能导致网络钓鱼的普遍性和严重性不断增加。这凸显了在人工智能系统中加强对策的必要性。
chatgptphishing attacksautomatecredentialsai systems
发现论文，激发创造
  • 使用 ChatGPT 生成网络钓鱼攻击

    本文发现可以利用 ChatGPT 生成的恶意提示来生成钓鱼网站，并发现这些钓鱼网站可以模仿流行品牌并模拟几种逃避反钓鱼实体检测的策略，而无需使用先前的对抗性操作（越狱）。

    May, 2023

  • 利用 ChatGPT 回复电子邮件浪费时间和资源的欺诈者

    本文调查了利用人工智能聊天机器人 ChatGPT 通过自动化对抗仿冒邮件的骗子的可行性，并发现 ChatGPT 能够成功干扰骗子的活动，因此证明了利用 AI 是对抗网络威胁有效的工具。

    Feb, 2023

  • 滥用 GPT：利用生成型 AI 聊天机器人创建 Smishing 攻击

    本论文通过提出 AbuseGPT 方法展示了现有生成式人工智能聊天机器人服务如何被攻击者利用在现实世界中创建短信网络钓鱼文本，最终导致更加狡猾的短信网络钓鱼活动，并探讨了一些未来的研究方向和指导方针来保护生成式人工智能服务的滥用以及保护用户免受短信网络钓鱼攻击。

    Feb, 2024

  • 从聊天机器人到网络钓鱼机器人？—— 阻止使用 ChatGPT、谷歌巴德和克劳德创建的网络钓鱼诈骗

    利用大型语言模型进行自动化检测，发现现有的大型语言模型可以生成可信地伪造知名品牌的网络钓鱼邮件和网站，并且可以使用未修改的版本进行此类攻击。为了应对这一问题，建立了一个基于 BERT 的自动检测工具，可以在早期检测到恶意提示，以防止大型语言模型生成网络钓鱼内容，对于网络钓鱼网站提示可以达到 97% 的准确率，对于网络钓鱼邮件提示可以达到 94% 的准确率。

    Oct, 2023

  • 机器人网络世界中的聊天机器人

    本研究使用问答形式探究网络安全问题，利用 OpenAI 的最新 ChatGPT 模型支持对复杂编码问题的高级理解，试验结果展示这个模型成功地生成了关键记录器、逻辑炸弹、混淆蠕虫和勒索软件等多个编码任务，其能力包括自我复制、自我修改、逃避检测，以及对复杂网络安全目标的战略理解，而令人惊讶的是，在没有图像输入的情况下，ChatGPT 还能够输出模糊或嵌入可执行程序步骤或链接的图像。

    Dec, 2022

  • 从 ChatGPT 到 ThreatGPT：生成式人工智能在网络安全与隐私中的影响

    本论文研究了生成 AI 模型的漏洞与潜在威胁，并讨论了社会、法律和伦理方面的影响，提出了防御技术和道德准则，并探讨了未来的研究方向。

    Jul, 2023

  • 聊天机器人在网络安全领域中的演进、脆弱性、攻击、挑战和未来建议

    本文探讨了聊天机器人从 ELIZA 到 GPT-4 的发展历程及其工作机制，分析了聊天机器人所面临的网络安全威胁和漏洞，阐述了聊天机器人对诸如恶意代码、网络钓鱼邮件、零日攻击和宏和 LOLBIN 的生成等网络安全问题所带来的风险和漏洞，进而探讨了应对这些威胁和漏洞的具体策略和措施。

    May, 2023

  • 基于人工智能的钓鱼邮件攻击分析与预防

    通过描述一个开放给公众使用的 AI 生成钓鱼邮件语料库，论文表明通过使用自动文本分析的机器学习工具，可以高准确率地识别基于 AI 生成的钓鱼邮件，并且 AI 生成的钓鱼邮件与常规钓鱼邮件不同，因此有必要在训练机器学习系统时使用 AI 生成的邮件，以防止由生成型 AI 支持的未来钓鱼攻击。

    May, 2024

  • RatGPT：将在线 LLMs 转化为恶意软件攻击代理

    通过证明概念，利用 ChatGPT 作为代理并与受害者建立通信，该研究揭示了开放可用插件和大型语言模型存在的重要网络安全问题，需要开发安全指南、控制措施和缓解策略。

    Aug, 2023

  • ChatGPT：不仅是大规模欺骗武器，人类中心人工智能（HCAI）的伦理挑战和应对

    本文探讨了使用 ChatGPT 作为生成 AI 所引起的道德问题，并基于人性化的人工智能（HCAI）框架提出了应对方法。使用 HCAI 框架来确保可靠、安全、值得信赖的人工智能，以减轻 ChatGPT 的误用或滥用，并推荐最佳使用（创意写作，非创意写作，教学和学习）。同时，强调了个体和社会福利的重要性。

    Apr, 2023