Jan, 2024

基于 OSINT 的网络威胁意识评估 LLM Chatbots

PDF
TL;DR本研究探讨了聊天机器人（如 ChatGPT、GPT4all、Dolly、Stanford Alpaca、Alpaca-LoRA 和 Falcon）在开源情报中识别与网络安全相关文本的能力，并评估了现有聊天机器人模型在自然语言处理任务中的能力，包括二元分类和命名实体识别。结果表明，聊天机器人在网络安全二元分类任务中表现良好，但在命名实体识别任务方面仍存在限制和不足。因此，明确了这些聊天机器人只在特定任务（如网络安全二元分类）中具有能力的同时，也强调了其他任务（如命名实体识别）需要进一步改进。
cybersecuritychatbotslarge language modelsbinary classificationnamed entity recognition
发现论文，激发创造
  • 机器人网络世界中的聊天机器人

    本研究使用问答形式探究网络安全问题，利用 OpenAI 的最新 ChatGPT 模型支持对复杂编码问题的高级理解，试验结果展示这个模型成功地生成了关键记录器、逻辑炸弹、混淆蠕虫和勒索软件等多个编码任务，其能力包括自我复制、自我修改、逃避检测，以及对复杂网络安全目标的战略理解，而令人惊讶的是，在没有图像输入的情况下，ChatGPT 还能够输出模糊或嵌入可执行程序步骤或链接的图像。

    Dec, 2022

  • 探索 ChatGPT 的人工智能伦理：一项诊断分析

    通过对 OpenAI 的 ChatGPT 进行定性研究，发现大规模语言模型的伦理风险主要包括偏见性和毒性，当前的基准测试无法解决这些问题，为了避免语言模型应用中出现伦理风险，需要制定可靠的基准测试和实施设计。

    Jan, 2023

  • 电信领域中 LLMs 的能力和局限性观察

    本文分析了引入生成式人工智能（AI）的大型语言模型（LLMs）—— 如 OpenAI 的 ChatGPT、GPT3.5 和 GPT4、谷歌的 Bard、Large Language Model Meta AI（LLaMA）等 —— 在通信界面（特别是企业无线产品和服务）中应用的能力和局限性，并针对 Craddlepoint 公开数据进行多个用例的比较分析，包括领域自适应、内容连贯性、输入扰动和错误的鲁棒性。我们相信这种评估将为数据科学家提供建立面向领域特定需求的定制对话接口的有用见解。

    May, 2023

  • 利用大型语言模型进行网络安全夺旗挑战和认证问题

    评估网络安全 Capture-The-Flag（CTF）练习中使用大型语言模型（LLMs）的能力，并探讨它对课堂教学、CTF 挑战的影响以及相关的学术诚信问题。

    Aug, 2023

  • 生成式大语言模型的基础及在网络防御中的应用

    该篇综述论文报道了 2022/2023 年间出现的生成式语言模型，尤其是 ChatGPT 模型和其与辅助功能（如微软 Bing）的整合，探讨了这些模型的原理、能力、局限性和未来前景，以及在瑞士操作环境下的应用和当前存在的安全问题。

    Mar, 2023

  • ChatGPT 能力概览及其对 AI 研究的影响

    本文研究大型语言模型（LLMs）对人工智能研究的影响。通过以 GPT3.5 / ChatGPT3.4 和 ChatGPT 4 为例，我们展示这些模型具有什么样的功能，并且这些模型令人们瞩目的领域覆盖速度证明了这个趋势正在逐渐变成实现通用智能的强劲迹象。这些模型的创新也将随着这些人工智能系统的成熟而扩大，并将展示出在我们社会的多个方面具有重要影响的不可预见的应用。

    May, 2023

  • 生成人工智能与大型语言模型在网络安全中的应用洞见

    通过生成式人工智能和大型语言模型（LLM），该论文对未来的网络安全进行了全面回顾，并探讨了 LLM 在硬件设计安全、入侵检测、软件工程、设计验证、网络威胁情报、恶意软件检测和钓鱼检测等各个领域的应用。论文提供了将 LLM 集成到未来网络安全框架中的基础理解和战略方向，强调创新和强大的模型部署以保护免受不断演变的网络威胁。

    May, 2024

  • 一个基于人工智能的恶意社交机器人网络的解剖

    利用启发式方法，本研究发现 1,140 个通过 Twitter botnet 使用 ChatGPT 生成人类风格内容的虚假个人的密集集群，并通过人工注释验证。ChatGPT 生成的内容宣传可疑网站并传播有害评论。尽管 AI botnet 中的账户可以通过其协调模式检测到，但目前最先进的大语言模型内容分类器无法区分它们和真实用户账户。这些发现强调了 AI 助推社交机器人带来的威胁。

    Jul, 2023

  • 人工智能的网络安全危机：无节制的采用和基于自然语言的攻击

    在这篇评论中，我们分析了 Autoregressive-Large Language Models (AR-LLMs)，如 ChatGPT，在搜索引擎等已建立的应用程序中的广泛集成，引入了具有独特可扩展特性的关键性漏洞，以及它们对自然语言作为攻击向量的依赖和对网络安全最佳实践的挑战，并提出了旨在减轻这些挑战的建议。

    Sep, 2023

  • 聊天机器人在网络安全领域中的演进、脆弱性、攻击、挑战和未来建议

    本文探讨了聊天机器人从 ELIZA 到 GPT-4 的发展历程及其工作机制，分析了聊天机器人所面临的网络安全威胁和漏洞，阐述了聊天机器人对诸如恶意代码、网络钓鱼邮件、零日攻击和宏和 LOLBIN 的生成等网络安全问题所带来的风险和漏洞，进而探讨了应对这些威胁和漏洞的具体策略和措施。

    May, 2023