Jun, 2024

利用知识图谱和大型语言模型的可操作性网络威胁情报

PDF
TL;DR本研究论文探讨了使用大型语言模型（LLMs）和知识图谱（KGs）的先进技术，通过自动生成人工智能来提取可操作的网络威胁情报（CTI）的挑战。通过评估技术，如提示工程、指导框架和微调以优化信息提取和结构化，证明了我们的方法在提取相关信息方面的有效性。然而，应用 LLMs 构建大规模数据的 KG 和链接预测仍存在挑战。
cyber threatscyber threat intelligenceactionable cti extractionlarge language modelsknowledge graphs
发现论文，激发创造
  • AttacKG+: 使用大型语言模型增强攻击知识图谱构建

    攻击知识图谱构建：使用大型语言模型和 LLM 框架完全自动化构建攻击知识图谱，包括重写、解析、识别和总结模块，提供关于攻击事件分析所需的信息，并有效地提取 AttacKG + 所定义的信息，从而在攻击重建等下游安全实践中直接受益。

    May, 2024

  • 从文本中识别和提取与网络安全相关的实体

    建立 CTI 数据集，使用 spaCy 框架和自我学习方法训练和测试网络安全实体模型，并探索将其与 Wikidata 的现有世界知识相链接的方法。

    Aug, 2022

  • 大型语言模型与知识图谱相互作用的研究趋势

    本研究调查了大型语言模型（LLMs）与知识图谱（KGs）之间的协同关系，旨在探讨 KG 问答、本体生成、KG 验证以及通过 LLMs 提高 KG 准确性和一致性等领域的研究空白。该论文还检验了 LLMs 在生成描述性文本和自然语言查询方面的作用，并通过分类 LLM-KG 交互、研究方法论和合作使用以及潜在偏见等结构化分析，提供了它们的结合潜力的新见解。该研究强调了它们的交互对于提升人工智能应用的重要性，并概述了未来的研究方向。

    Jun, 2024

  • 知识图谱大规模语言模型（KG-LLM）用于链接预测

    通过使用链式思维促进和上下文学习，该研究介绍了一种新方法，即知识图大型语言模型框架（KG-LLM），以提高知识图中多跳链接预测的效果。实验证明，集成上下文学习和链式思维不仅增加了方法的性能，而且显著提高了模型的泛化能力，从而在陌生情境中实现更准确的预测。

    Mar, 2024

  • 生成人工智能与大型语言模型在网络安全中的应用洞见

    通过生成式人工智能和大型语言模型（LLM），该论文对未来的网络安全进行了全面回顾，并探讨了 LLM 在硬件设计安全、入侵检测、软件工程、设计验证、网络威胁情报、恶意软件检测和钓鱼检测等各个领域的应用。论文提供了将 LLM 集成到未来网络安全框架中的基础理解和战略方向，强调创新和强大的模型部署以保护免受不断演变的网络威胁。

    May, 2024

  • 行动时间：野外网络威胁情报的自动化分析

    提供了一个新的大型开放基准数据集和一个名为 aCTIon 的结构化 CTI 信息提取工具。比较了 10 种先前工作中的解决方案，结果显示，在所有任务中，aCTIon 的 F1 得分相对于先前的工作有了 10 个百分点到 50 个百分点的提高。

    Jul, 2023

  • 基于学习推荐的 LLM 解释的上下文源知识图

    在个性化教育时代，为学习推荐提供易于理解的解释对增强学习者的理解和参与推荐的学习内容具有巨大价值。本文提出了一种利用知识图谱作为意见引擎源的方法，以减小语言模型模型的错误生成的风险，并确保高精度地满足学习者的意图，同时保持有关应用的学习上下文。我们利用知识图谱中的语义关系提供关于学习推荐的精心策划的知识。通过将领域专家纳入研究的提示工程阶段，设计解释模板，由语言模型进行填充和完成来确保解释包含与学习者相关的信息。我们定量评估了我们的方法使用 Rouge-N 和 Rouge-L 指标，并进行了与专家和学习者的质性评估。我们的结果表明，与仅由 GPT 模型生成的解释相比，生成的解释具有更高的召回率和准确度，并且极大地降低了最终学习解释中生成不准确信息的风险。

    Mar, 2024

  • 自动化建立非结构化网络威胁情报映射：实验研究

    本研究致力于将非结构化的网络威胁情报（CTI）用机器学习自动分类，以支持先发制人的安全措施，并为 CTI 分析提供新的数据集、模型选择指南以及挑战。

    Aug, 2022

  • 反直觉：大型语言模型比我们认为的更能理解知识图谱

    我们通过复杂问题回答作为任务，对比了不同的知识图谱注入方法，旨在探索最佳提供知识图谱给大型语言模型的提示方法，从而增强其对知识图谱的理解能力。与预期相反，我们的分析发现，大型语言模型能够有效处理混乱、噪音和线性化的知识图谱知识，并且表现优于使用设计良好的自然语言文本提示的方法。这一反直觉的发现为未来关于大型语言模型理解结构化知识的研究提供了重要见解。

    Feb, 2024

  • LLMs 杀死了脚本小子：大语言模型支持的代理如何改变网络威胁测试的现状

    本研究探索了大型语言模型在威胁推理、工具信息生成和自动化网络攻击方面的潜力，讨论了 LLM 在支持特定威胁相关行动和决策方面的手动与自动化探索，以及对威胁网络潜在影响和使用 LLM 加速威胁行为能力的伦理考量，对诱导可操作反应的提示设计进行了评估和启发，并提出了探索 LLM 在更复杂网络、高级漏洞和提示敏感性方面的未解问题。

    Oct, 2023