Feb, 2024

有信息数据增强的无文件反弹Shell检测

HTML
PDF
TL;DR为了在恶劣环境中改进模型性能，提出了一个增强框架，通过注入已知用于网络攻击的模板和模仿逃避性威胁行为的合法活动模式，以增加并多样化在合法日志中出现的恶意活动。结果表明，增强是维持高预测能力所必需的，攻击鲁棒性可通过特定的加固技术如对抗性训练来实现，几乎不产生误报的准实时模型也是可行的。
发现论文，激发创造
  • 利用保守特征提高机器学习分类器抵抗实现逃避攻击的鲁棒性

    通过考虑简化的攻击特征空间模型来设计鲁棒的人工智能模型，可以在检测PDF格式恶意软件时提高效果。在研究中发现，仅依靠特征空间模型的效果有限，但增加保留特征可以显著提高性能。此外，当面临各种恶意软件的攻击时，特征空间模型具有更广泛的鲁棒性。

    Aug, 2017

  • 强数据增强消除污染和后门攻击，无需牺牲准确率

    该论文发现，在对抗数据污染和后门攻击的情况下，使用强大的数据增强方法，如mixup和CutMix，可以显著减少威胁，同时不会降低性能，并且在后门攻击时，CutMix大大减轻了攻击，同时增加了9％的验证准确性。

    Nov, 2020

  • 漏洞攻击技术与威胁识别

    该研究使用机器学习和自然语言处理技术以及多个公共数据集，提供一个易于理解的漏洞到攻击技术和威胁行为者的映射，帮助安全从业者协助客户管理和优先处理漏洞。

    Jun, 2022

  • PhilaeX：恶意软件检测中AI模型失败与成功的解释

    提出了一种名为PhilaeX的可解释AI方法，即通过对模型的边缘预测和积极贡献特征的提取，优化特征子集来形成完整的解释，并通过两个实验证明其解释忠实度较高。

    Jul, 2022

  • 离线强化学习数据集中的后门隐藏

    本文提出了一种新的后门攻击方法 Baffle，通过实验发现当前所有离线强化学习算法都无法免疫这种攻击，并且我们插入的后门难以被广泛采用的防御方法检测出来，因此需要更有效的保护机制。

    Oct, 2022

  • 跨多种深度学习范式的强大后门数据检测

    研究表明，大多数现有的后门检测方法在不同的攻击和毒害比率上的性能存在显著差异，并且在最先进的干净标签攻击下都失败了。提出了一种新的检测方法ASSET，它在端到端SL设置中优于现有方法，并提供了第一款针对SSL和TL的实用后门防御。

    Feb, 2023

  • 组合：用于机器学习的自动二值数据集构建

    Assemblage是一个可扩展的基于云的分布式系统，用于获取高质量的二进制语料库，以训练二进制分析的先进模型。它可以通过爬取、配置和构建Windows PE二进制文件来获取高质量的二进制语料库，并支持用户发布数据集的“recipes”和提取各种特征。

    May, 2024

  • WildGuard: 一站式开源安全风险、越狱及拒绝率审核工具

    WildGuard是一个开放、轻量级的LLM安全审核工具，可以识别用户提示的恶意意图、检测模型响应的安全风险以及确定模型的拒绝率。通过在广泛的风险类别上提供精确性和广覆盖性，WildGuard满足了对LLM交互的自动安全审核和评估的不断增长的需求，并且与现有开放式审核工具相比，在评估模型拒绝行为时表现卓越，特别是在识别对抗性越狱和评估模型拒绝中.

    Jun, 2024

  • 尝试黑客攻击: 聚合自动编码器以应对极不平衡数据中的持久访问威胁

    使用深度学习技术，我们开发了一个名为AE-APT的工具，用于检测高级持续性威胁，通过一系列的自编码器方法，它在检测和排名异常方面表现出优越性能。

    Jun, 2024

  • RACONTEUR：一个知识丰富、洞察力强且便携的LLM驱动的Shell命令解释器

    本研究针对安全分析师难以理解复杂的恶意Shell命令这一问题，提出了一种名为Raconteur的新型Shell命令解释器，通过大型语言模型(LM)提供全面易懂的解释。Raconteur结合了专业知识，能够解释命令的行为和目的，并将自然语言解释转换为MITRE ATT

    Sep, 2024