May, 2024

人工智能作为新黑客：为攻击性安全开发代理

PDF
TL;DR在网络安全的广阔领域中，从防御到进攻的转变对保护数字基础设施至关重要，本研究探讨了将人工智能（AI）应用于进攻性网络安全的整合，特别是通过开发一款自主 AI 代理程序 ReaperAI，用于模拟和执行网络攻击，利用大型语言模型（LLMs）如 GPT-4 的能力，ReaperAI 展示了自主识别、利用和分析安全漏洞的潜力，同时还提出了 AI 在网络安全中的道德和操作挑战，以及未来的研究方向。
cybersecurityartificial intelligenceoffensive securityreaperaiethical guidelines
发现论文，激发创造
  • 通过基于 AI 的反应系统解决网络攻击问题：综述与未来展望

    综述了人工智能在网络安全中应对威胁系统的最新进展，提供了对人工智能与网络安全交叉领域的全面分析，指出了未来研究的挑战。

    Dec, 2023

  • 人工智能的网络安全危机：无节制的采用和基于自然语言的攻击

    在这篇评论中，我们分析了 Autoregressive-Large Language Models (AR-LLMs)，如 ChatGPT，在搜索引擎等已建立的应用程序中的广泛集成，引入了具有独特可扩展特性的关键性漏洞，以及它们对自然语言作为攻击向量的依赖和对网络安全最佳实践的挑战，并提出了旨在减轻这些挑战的建议。

    Sep, 2023

  • AI 代理面临威胁：主要安全挑战与未来发展路径调查

    通过系统地审查人工智能代理所面临的安全威胁，本文突出了在保护人工智能代理方面所取得的进展和现有的限制，并旨在激发进一步研究以解决与人工智能代理相关的安全威胁，从而促进更加稳固和安全的人工智能代理应用程序的发展。

    Jun, 2024

  • AI 代理的安全性

    通过研究典型 AI 代理的工作流程和体验，我们从系统安全的角度详细描述了 AI 代理中存在的潜在漏洞，强调了其原因和严重影响，并介绍了相应的防御机制及其有效性评估实验，从而让 AI 代理的安全性和可靠性得到进一步提升。

    Jun, 2024

  • 人工智能在网络安全中的应用：威胁、攻击和缓解

    讨论了网络安全、网络威胁以及传统和智能防御措施，并最终以人工智能在网络安全领域未来的前景作为讨论的结尾。

    Sep, 2022

  • 生成式人工智能技术对网络防御的影响和风险

    本文提出方案利用 Cyber Kill Chain 对 Generative Artificial Intelligence 技术进行威胁抵御，通过强化侦测、欺骗以及对抗等多种策略有效减轻 GenAI 引起的网络攻击风险。

    Jun, 2023

  • 保障海上自治系统中人工智能的红队框架

    通过使用一种多部分检查表的框架，我们展示了如何高效地评估海上自主系统的人工智能安全，并揭示其中的多个漏洞，从中毒到对抗性补丁攻击。通过系统化的人工智能红队行动，我们可以防止与提高对使命关键人工智能的接受和依赖性相应的严重事件。

    Dec, 2023

  • 普适机器人系统的 AI 安全威胁：下一代网络安全人才的课程

    物理机器人近距离工作，科技安全的威胁引起人们担忧。现今缺少专业人士来保护这些系统，因此需要相应的课程来开发和集成。该课程包括七个自包含的模块，旨在对普及的机器人系统进行人工智能安全威胁防御与训练。

    Feb, 2023

  • 使用基于图的网络攻击模拟训练自动化防御策略

    实现并评估了一种基于强化学习的自动化网络防御代理程序，该代理以安全警报作为输入并使用强化学习学习执行预定义的防御措施的策略，使用攻击图模拟网络攻击的环境中，被攻击者执行保护任务。该方法通过使用不同大小的攻击图、攻击者攻击策略和不同的检测系统噪声来进行评估。实验表明，通过强化学习训练的防御代理程序的性能优于使用启发式策略的代理程序，并能够概括不同的攻击者策略。

    Apr, 2023

  • RansomAI: 基于人工智能的勒索软件，用于隐蔽性加密

    提出了一种基于强化学习的框架 RansomAI，旨在通过学习最佳加密算法、速率和持续时间，使勒索软件可以自适应地调整其加密行为，并保持隐身，使其不易被检测到。实验结果表明，该框架可以在少数几分钟内达到超过 90％的准确率，成功逃避了 Crowdsensor 上运行的 Ransomware-PoC 的检测。

    Jun, 2023