Dec, 2023

预训练语言模型在网络安全研究文献中的概念提取表现低劣

PDF
TL;DR利用大语言模型（LLMs）从网络安全相关文本中提取相关实体，以识别发展趋势和监测新兴趋势，研究结果表明 LLMs 的知识实体并不完全反映网络安全的上下文，但名词提取器在此领域具有潜力。通过统计分析，开发了一种名词提取器，可从领域中提取特定且相关的复合名词。通过测试模型在 LLM 领域中识别趋势，观察到一些限制，但它能够提供有关新兴趋势演变的有希望的结果。
cybersecuritylarge language modelsentity recognitionnoun extractoremergent trends
发现论文，激发创造
  • 用于网络安全的大型语言模型：系统文献综述

    大型语言模型在网络安全领域的应用综述，包括漏洞检测、恶意软件分析、数据隐私等问题，指出了数据集大小与多样性的重要性以及未来研究方向。

    May, 2024

  • 大型语言模型在网络安全中的调查

    大型语言模型在网络安全领域的应用、使用方式、局限性以及如何克服这些局限性和期望中的成果进行了调查。

    Feb, 2024

  • 网络安全中的大型语言模型：最新技术

    通过评估对进攻和防御应用的研究，本研究旨在提供对 LLM 驱动的网络安全领域中潜在风险和机遇的整体理解。

    Jan, 2024

  • 当 LLM 遇上网络安全：一个系统文献综述

    通过系统文献综述，本文研究了大型语言模型在网络安全领域的构建、应用、挑战等关键问题，并探讨了其在提高网络安全实践中的广泛潜力，成为应用于该领域的有价值的资源。

    May, 2024

  • 运用大型语言模型革新网络威胁检测

    本文介绍了 SecurityLLM，它是一个旨在检测网络安全威胁的预训练语言模型，其中 SecurityBERT 作为网络威胁检测机制，而 FalconLLM 则是一种事件响应和恢复系统，实验结果表明，我们的 SecurityLLM 模型可以在 98% 的准确率下识别 14 种不同类型的攻击。

    Jun, 2023

  • 安全性：为网络安全咨询评估生成式大型语言模型

    大型语言模型（LLMs）在网络安全应用中显示出潜力，但也因幻觉和缺乏真实性等问题导致信心下降。现有的基准测试提供了一般评估，但不能充分解决 LLMs 在网络安全特定任务中的实际应用方面的问题。为了填补这个空白，我们引入了 SECURE（安全提取、理解与推理评估）基准测试，该基准测试旨在评估 LLMs 在现实网络安全场景中的性能。SECURE 包括六个数据集，重点关注工业控制系统领域，以评估基于行业标准来源的知识提取、理解和推理。我们的研究评估了七种最先进的模型在这些任务上的表现，为改进 LLMs 作为网络咨询工具的可靠性提供了见解和建议。

    May, 2024

  • 多模态知识提取与分析中的 LLMs 在智能 / 安全关键应用中的应用

    大型语言模型在最近几年取得了迅猛的进展，其能力正在不断加速，通过各种基准测试，其能力接近于人类的水平。由于存在未解决的脆弱性和限制，人们在将这些模型应用于智能和安全关键应用之前需要谨慎。本文回顾了与 LLM 评估和脆弱性相关的最新文献，综合当前的研究进展，并帮助了解哪些进步对于在智能和安全关键应用中使用这些技术最为关键。这些脆弱性被分为十个高级类别，并与 LLM 的一个高级生命周期进行了叠加。还对一些常见的缓解措施进行了综述。

    Dec, 2023

  • 使用大型语言模型分析软件供应链安全故障的实证研究

    在这项研究中，我们评估了大型语言模型（LLMs）分析历史软件供应链违规行为的能力。我们使用 LLMs 复制了 Cloud Native Computing Foundation (CNCF) 成员对 69 个软件供应链安全违规行为的手动分析，并根据四个维度开发了 LLMs 的提示：侵害类型、意图、性质和影响。我们报告了当源文章足够详细以便在手动分析员中形成共识时，LLMs 能够有效地描述软件供应链违规行为，但不能取代人工分析员。未来的工作可以提高 LLMs 在这个背景下的性能，并研究更广泛的文章和违规行为。

    Aug, 2023

  • 针对网络安全概念的关系抽取框架

    本论文介绍了一种利用半监督自然语言处理和引导式算法从文本中提取安全实体与其关系的方法，并在小型语料库上进行测试，结果表明可以较高准确地实现此目的。

    Apr, 2015

  • LLM-TAKE：利用大型语言模型的主题感知关键词提取

    利用大型语言模型（LLMs）生成基于上下文的关键词，提出了主题感知关键词提取（LLM TAKE）的框架，通过避免输出非信息或敏感关键词，并减少在 LLMs 中普遍存在的幻觉，为电子商务领域的产品生成提取和抽象主题的两个变体，通过对三个真实数据集的广泛实验证明，该模型能够通过比较基准模型提升准确性和多样性。

    Dec, 2023