Sep, 2023

人工智能的网络安全危机：无节制的采用和基于自然语言的攻击

PDF
TL;DR在这篇评论中，我们分析了 Autoregressive-Large Language Models (AR-LLMs)，如 ChatGPT，在搜索引擎等已建立的应用程序中的广泛集成，引入了具有独特可扩展特性的关键性漏洞，以及它们对自然语言作为攻击向量的依赖和对网络安全最佳实践的挑战，并提出了旨在减轻这些挑战的建议。
发现论文，激发创造
  • 聊天机器人在网络安全领域中的演进、脆弱性、攻击、挑战和未来建议

    本文探讨了聊天机器人从 ELIZA 到 GPT-4 的发展历程及其工作机制，分析了聊天机器人所面临的网络安全威胁和漏洞，阐述了聊天机器人对诸如恶意代码、网络钓鱼邮件、零日攻击和宏和 LOLBIN 的生成等网络安全问题所带来的风险和漏洞，进而探讨了应对这些威胁和漏洞的具体策略和措施。

    May, 2023

  • 基于 OSINT 的网络威胁意识评估 LLM Chatbots

    本研究探讨了聊天机器人（如 ChatGPT、GPT4all、Dolly、Stanford Alpaca、Alpaca-LoRA 和 Falcon）在开源情报中识别与网络安全相关文本的能力，并评估了现有聊天机器人模型在自然语言处理任务中的能力，包括二元分类和命名实体识别。结果表明，聊天机器人在网络安全二元分类任务中表现良好，但在命名实体识别任务方面仍存在限制和不足。因此，明确了这些聊天机器人只在特定任务（如网络安全二元分类）中具有能力的同时，也强调了其他任务（如命名实体识别）需要进一步改进。

    Jan, 2024

  • 网络安全中的大型语言模型：最新技术

    通过评估对进攻和防御应用的研究，本研究旨在提供对 LLM 驱动的网络安全领域中潜在风险和机遇的整体理解。

    Jan, 2024

  • 生成人工智能与大型语言模型在网络安全中的应用洞见

    通过生成式人工智能和大型语言模型（LLM），该论文对未来的网络安全进行了全面回顾，并探讨了 LLM 在硬件设计安全、入侵检测、软件工程、设计验证、网络威胁情报、恶意软件检测和钓鱼检测等各个领域的应用。论文提供了将 LLM 集成到未来网络安全框架中的基础理解和战略方向，强调创新和强大的模型部署以保护免受不断演变的网络威胁。

    May, 2024

  • 从 ChatGPT 到 ThreatGPT：生成式人工智能在网络安全与隐私中的影响

    本论文研究了生成 AI 模型的漏洞与潜在威胁，并讨论了社会、法律和伦理方面的影响，提出了防御技术和道德准则，并探讨了未来的研究方向。

    Jul, 2023

  • 大型语言模型的局限性、危害和风险的放大

    本文介绍了人工智能（AI）领域中的基础和大型语言模型（LLMs）等技术的限制和风险，并且警告使用这些技术会带来的伤害。

    Jul, 2023

  • 大型语言模型中的对抗攻击与防御：旧与新的威胁

    过去十年来，人们对神经网络的鲁棒性进行了广泛的研究，但这个问题依然没有得到很好的解决。在这篇论文中，我们提出了改进新方法的鲁棒性评估和减少错误评估的第一组先决条件，同时指出了面向开源模型中恶意内容生成的嵌入空间攻击作为另一个可行的威胁模型。最后，我们通过一个最近提出的防御方法进行演示，展示了在没有针对大型语言模型的最佳实践的情况下，过高估计新方法的鲁棒性的容易性。

    Oct, 2023

  • 生成式大语言模型的基础及在网络防御中的应用

    该篇综述论文报道了 2022/2023 年间出现的生成式语言模型，尤其是 ChatGPT 模型和其与辅助功能（如微软 Bing）的整合，探讨了这些模型的原理、能力、局限性和未来前景，以及在瑞士操作环境下的应用和当前存在的安全问题。

    Mar, 2023

  • ChatGPT 多步越狱隐私攻击

    本研究探讨了 OpenAI 和 New Bing API 应用中集成的大型语言模型对隐私的威胁，通过实验支持了对应用集成的 LLM 可能带来比以前更严重的隐私威胁的观点。

    Apr, 2023

  • 人工智能在网络安全中的应用：威胁、攻击和缓解

    讨论了网络安全、网络威胁以及传统和智能防御措施，并最终以人工智能在网络安全领域未来的前景作为讨论的结尾。

    Sep, 2022