May, 2024

CANAL -- 基于经验法的网络活动新闻预警语言模型与高成本 LLM 的对比

PDF
TL;DR我们的研究提出了一个新的经验性框架，利用 BERT 模型解析和分类新闻文章中的网络相关信息，提高市场利益相关者的实时警惕性。该框架通过使用基于随机森林的新型银标签方法，将其命名为 CANAL（网络活动新闻警报语言模型），以进行网络分类。我们将 CANAL 与更大、更昂贵的 LLMs 进行了对比，并突出了它们在网络新闻分类中的零到少训练的学习能力。CANAL 在准确性和成本效益方面表现出卓越的性能。此外，我们引入了网络信号发现模块，这是一个高效检测新闻文章中新兴网络信号的战略组件。综合而言，CANAL 和网络信号发现模块使我们的框架能够为需要快速响应网络情报的企业提供稳健且经济高效的解决方案。
cyber attackscyber threat modelingbert modelnews articlescyber signal discovery
发现论文，激发创造
  • SecureBERT 和 LLAMA 2 增强的控制区网络入侵检测和分类

    使用预训练的 Transformer 模型进行 CAN 入侵检测的实验中，我们开发了两个不同的模型: CAN-SecureBERT 和 CAN-LLAMA2，其中 CAN-LLAMA2 的性能超过了现有的模型，准确率达 0.999993，F1 得分高，误报率只有 3.10e-6，是现有模型的 52 倍小。我们的研究强调了基于大型语言模型的潜力，同时结合适配器实现其他网络安全任务，保持模型自身的语言能力。

    Nov, 2023

  • 运用大型语言模型革新网络威胁检测

    本文介绍了 SecurityLLM，它是一个旨在检测网络安全威胁的预训练语言模型，其中 SecurityBERT 作为网络威胁检测机制，而 FalconLLM 则是一种事件响应和恢复系统，实验结果表明，我们的 SecurityLLM 模型可以在 98% 的准确率下识别 14 种不同类型的攻击。

    Jun, 2023

  • 使用大型语言模型分析软件供应链安全故障的实证研究

    在这项研究中，我们评估了大型语言模型（LLMs）分析历史软件供应链违规行为的能力。我们使用 LLMs 复制了 Cloud Native Computing Foundation (CNCF) 成员对 69 个软件供应链安全违规行为的手动分析，并根据四个维度开发了 LLMs 的提示：侵害类型、意图、性质和影响。我们报告了当源文章足够详细以便在手动分析员中形成共识时，LLMs 能够有效地描述软件供应链违规行为，但不能取代人工分析员。未来的工作可以提高 LLMs 在这个背景下的性能，并研究更广泛的文章和违规行为。

    Aug, 2023

  • 使用大型语言模型进行网络欺凌检测

    社交媒体、网络欺凌、机器学习、大型语言模型和 RoBERTa 在网络欺凌检测方面的应用和效果的研究。

    Feb, 2024

  • 利用 LLMs 支持预见性治理：评估和调整大型语言模型与新闻媒体相符，预测人工智能的负面影响

    利用新闻媒体进行数据分析，我们形成了一个包含十个类别的人工智能影响分类法，并通过评估模型发现，细调的模型与新闻媒体所识别的负面影响分类几乎一致，而指令型模型则在某些类别的影响生成上存在差距。这项研究凸显了当用于预测影响时，最先进的 LLMs 存在潜在偏见，并展示了将较小的 LLMs 与新闻媒体所反映的多样化影响进行调整以更好地反映这些影响的优势。

    Jan, 2024

  • 探索大型语言模型在识别误导性新闻标题中的潜力

    利用大型语言模型（LLMs），本文研究了识别误导性与非误导性新闻标题的效果。研究发现模型性能存在显著差异，ChatGPT-4 在一致标注者就误导性标题达成一致意见的情况下表现出更准确的结果。文章强调了人本评估在开发 LLMs 中的重要性，旨在将技术能力与细腻的人类判断力相结合。研究结果对 AI 伦理问题具有借鉴意义，强调了在技术先进的同时，还需要考虑伦理道德和人类解读的微妙性。

    May, 2024

  • 用于网络安全的大型语言模型：系统文献综述

    大型语言模型在网络安全领域的应用综述，包括漏洞检测、恶意软件分析、数据隐私等问题，指出了数据集大小与多样性的重要性以及未来研究方向。

    May, 2024

  • 利用大型语言模型有效扩展鱼叉式网络钓鱼攻击

    通过对大规模语言模型在网络钓鱼领域的应用研究，发现现有的大规模语言模型对于网络罪犯在网络钓鱼攻击中的情报收集和信息生成阶段提高了效率，在此基础上，通过 600 个英国议员的案例研究发现应用于网络钓鱼的语言模型不仅效果逼真，且花费非常低；在此基础上，提出了两种解决方案，即应用程序接口等结构化访问方案和基于大规模语言模型的防御系统，强调了治理干预的必要性。

    May, 2023

  • 评估大型语言模型在检测虚假新闻中的功效：一项比较分析

    研究通过对比分析，评估了不同大型和小型 LLMs 在识别和过滤假新闻内容方面的有效性，并利用 Kaggle 的假新闻数据集样本探讨了当前 LLMs 在假新闻检测方面的能力和局限性，同时讨论了提高 AI 驱动信息完整性对开发人员和决策者的影响。

    Jun, 2024

  • 网络安全中的大型语言模型：最新技术

    通过评估对进攻和防御应用的研究，本研究旨在提供对 LLM 驱动的网络安全领域中潜在风险和机遇的整体理解。

    Jan, 2024