Jun, 2023

利用大型语言模型解释模糊的网络攻击描述

PDF
TL;DR通过使用大型语言模型 (LLMs) 以及对 MITRE AT&CK 框架中的 Tactics，Techniques 和 Procedures (TTPs) 进行训练，我们研究了它们在预测 ATT＆CK tactics 方面的能力，发现 BaseLLMs 提供更加集中和清晰的 ATT＆CK tactics 预测，而 LLMs 则提供更广泛的网络攻击技术解释。虽然 LLMs 具有强大的潜力，但它们的预测中存在内在歧义。因此，我们总结了现有的挑战，并建议 LLMs 研究方向以处理 TTP 描述的内在歧义。
mitre at&ck frameworktactics, techniques, and procedures (ttps)natural language processing (nlp)large language models (llms)cyberattack techniques
发现论文，激发创造
  • LLMs 杀死了脚本小子：大语言模型支持的代理如何改变网络威胁测试的现状

    本研究探索了大型语言模型在威胁推理、工具信息生成和自动化网络攻击方面的潜力，讨论了 LLM 在支持特定威胁相关行动和决策方面的手动与自动化探索，以及对威胁网络潜在影响和使用 LLM 加速威胁行为能力的伦理考量，对诱导可操作反应的提示设计进行了评估和启发，并提出了探索 LLM 在更复杂网络、高级漏洞和提示敏感性方面的未解问题。

    Oct, 2023

  • 网络安全中的大型语言模型：最新技术

    通过评估对进攻和防御应用的研究，本研究旨在提供对 LLM 驱动的网络安全领域中潜在风险和机遇的整体理解。

    Jan, 2024

  • 用于网络安全的大型语言模型：系统文献综述

    大型语言模型在网络安全领域的应用综述，包括漏洞检测、恶意软件分析、数据隐私等问题，指出了数据集大小与多样性的重要性以及未来研究方向。

    May, 2024

  • 结合自然语言处理和机器学习技术实现攻击者 TTP 自动分类

    本文探讨了不同的自然语言处理和机器学习技术，以提取关于网络攻击者战术、技术和过程（TTP）的安全信息，并提出了一个基于已知对手策略、技术和程序知识库的自动分类非结构化文本的数据处理管道。

    Jul, 2022

  • AutoAttacker：一种基于大型语言模型指导的自动化网络攻击系统

    使用大型语言模型（LLMs）在网络安全中模拟后入侵阶段的攻击，通过将 LLMs 自动化来改善组织的网络安全状况，扩展红队的效力并预先检测新型攻击行为。

    Mar, 2024

  • 大型语言模型攻击的比较调查

    通过综述各种在大型语言模型上攻击的形式及机制，以及其潜在影响和当前的防御策略，该论文探讨了大型语言模型的安全性和脆弱性方面的问题。研究主题包括旨在操纵模型输出的对抗性攻击、影响模型训练的数据污染，以及与训练数据利用相关的隐私问题。论文还探讨了不同攻击方法的有效性、大型语言模型对这些攻击的弹性以及对模型完整性和用户信任的影响。通过研究最新的研究成果，提供对大型语言模型的脆弱性和防御机制的深入了解，旨在引起人工智能社区的关注，并激发切实解决这些风险的方法。

    Mar, 2024

  • AttacKG+: 使用大型语言模型增强攻击知识图谱构建

    攻击知识图谱构建：使用大型语言模型和 LLM 框架完全自动化构建攻击知识图谱，包括重写、解析、识别和总结模块，提供关于攻击事件分析所需的信息，并有效地提取 AttacKG + 所定义的信息，从而在攻击重建等下游安全实践中直接受益。

    May, 2024

  • 利用大型语言模型进行网络安全夺旗挑战和认证问题

    评估网络安全 Capture-The-Flag（CTF）练习中使用大型语言模型（LLMs）的能力，并探讨它对课堂教学、CTF 挑战的影响以及相关的学术诚信问题。

    Aug, 2023

  • 大型语言模型在网络安全中的调查

    大型语言模型在网络安全领域的应用、使用方式、局限性以及如何克服这些局限性和期望中的成果进行了调查。

    Feb, 2024

  • 利用大型语言模型进行软件漏洞检测：综合基准研究

    通过使用大型语言模型（LLMs）来辅助发现源代码中的漏洞，相比传统的静态分析工具，我们发现 LLMs 能够找出更多问题，提高漏洞检测的回溯率和 F1 分数，从而使得代码更加安全。

    May, 2024