Mar, 2024

用可解释性概念漂移阻挠网络安全攻击

PDF
TL;DR提出一种特征漂移解释（FDE）模块来识别漂移特征，该模块通过自动编码器（AE）重构回归深度学习模型的第一层激活，并找到它们的潜在表示。结果表明，FDE 成功识别了 85.77％的漂移特征，并展示了其在概念漂移现象下的 DL 适应方法中的实用性，从而成为识别漂移特征以阻止网络安全攻击的有效策略。
cyber-security attacksautonomous systemsheating, ventilation, and air conditioning systemsconcept driftfeature drift explanation
发现论文，激发创造
  • 应对恶意软件概念漂移的主动性和解释性手段

    DREAM 是一种新颖的系统，通过模型敏感性和数据自主性增强漂移检测，在半监督训练中主动捕捉恶意软件行为概念，并通过嵌入于检测器的潜在空间的恶意软件标签和概念解释扩大人工干预，以协调分类器和检测器的更新过程，从而能够有效提高漂移检测准确性并减少漂移适应的专家分析工作。

    May, 2024

  • 利用自编码器进行无监督的概念漂移遗忘

    本文提出了一种基于自编码器的方法，用于无监督地 “遗忘” 概念漂移，避免重新训练或调整任何操作于数据上的学习模型。

    Nov, 2022

  • 联邦网络系统中的概念漂移检测

    本文提出了一种概念漂移检测系统，利用联邦学习在每次迭代中提供的更新来缓解漂移对模型性能的影响，使用降维和聚类技术，实现了在智能交通系统中不同漂移阶段和系统暴露水平的各种非 iid 场景中检测漂移节点的框架。

    Sep, 2021

  • 从概念漂移到模型退化：性能感知漂移检测器综述

    本文介绍了预测机器学习模型在实际应用中由于系统动态性带来的性能退化问题，对概念漂移的类型做出了统一分类，并对最近十年中提出的基于性能的概念漂移检测方法进行了回顾和分类，还提出了跟踪和评估预测系统中模型性能的主要属性和策略，并探讨了开放性研究挑战和可能的研究方向。

    Mar, 2022

  • 一个用于电力分配网络中的网络攻击检测的无监督对抗自动编码器

    本研究提出了一种无监督对抗自编码器（AAE）模型，用于检测不平衡电力分配网格中的虚假数据注入攻击（FDIAs），并在 IEEE 13 巴士和 123 巴士系统上展示了其在检测网络攻击方面的卓越性能。

    Mar, 2024

  • 使用整体私有模型集的概念漂移检测

    深度神经网络（DNNs）是最广泛使用的机器学习算法之一。本文关注集成私有 DNNs 的概念来检测概念漂移，并引入一种名为 IPDD 的集成方法，不需要标签即可检测漂移。实验证明该方法在隐私性和效用上具有可比性。

    Jun, 2024

  • 恶意软件检测中针对概念和数据漂移的神经网络优化

    以机器学习模型为基础的恶意软件检测面临恶意软件不断进化导致的概念漂移问题，本研究提出一种模型无关的协议来改善基线神经网络处理漂移问题，并展示了特征约简和使用最新验证集进行训练的重要性，同时还提出了一种名为 DRBC（Drift-Resilient Binary Cross-Entropy）的损失函数，对抗漂移效果更佳。我们在 EMBER 数据集（2018 年）上进行模型训练，并在 2020 年至 2023 年收集的最新恶意文件数据集上进行评估。改进后的模型表现出有希望的结果，检测到比基线模型多 15.2% 的恶意软件。

    Aug, 2023

  • 如何可持续监测机器学习系统？概念漂移检测中的准确性和能量效率平衡

    通过对七种常用的概念漂移检测方法进行实验研究，我们的结果表明，根据能源效率和准确性的权衡考虑，概念漂移检测器可以分为三种类型：a) 以检测准确性为代价的能源效率检测器（KSWIN），b) 在能源消耗较低时具有较好准确性的平衡检测器（HDDM_W、ADWIN），c) 能源消耗极少但实际上不可用因为准确性太差的检测器（HDDM_A、PageHinkley、DDM、EDDM）。通过为这种能源效率策略提供充分的证据，我们的发现为 ML 从业者选择最适合其 ML-enabled 系统的概念漂移检测方法提供支持。

    Apr, 2024

  • DetAIL：一款自动检测和分析语言漂移的工具

    本论文旨在确保 “基于机器学习和深度学习” 的系统能够像传统软件一样可靠。论文提出了一种度量数据漂移的方法以及在其发生时自适应地重新训练模型的方法，并生成不同层面的解释以理解漂移原因。

    Nov, 2022

  • 概念漂移检测器是可靠的警报系统吗？-- 一项比较研究

    该研究通过比较基于错误率和数据分布的概念漂移检测器的性能，并评估它们在识别漂移时的可靠性，为实践者提供了指导建议和警报系统的适用性分析。

    Nov, 2022