大规模事故响应的异常检测

Apr, 2024

Anomaly Detection for Incident Response at Scale

Hanzhang Wang, Gowtham Kumar Tangirala, Gilkara Pranav Naidu, Charles Mayville, Arighna Roy...

TL;DR我们提出了一种基于机器学习的异常检测产品 ——AI Detect and Respond (AIDR)，它能够实时监测沃尔玛的业务和系统健康状况。在验证期间，该产品使用超过 3000 个模型为 25 个应用程序、平台和运营团队提供了预测，覆盖了 63% 的重大事件，并将平均检测时间 (MTTD) 缩短了 7 分钟以上。与以往的异常检测方法不同，我们的解决方案利用统计学、机器学习和深度学习模型，同时继续使用基于规则的静态阈值来整合领域特定知识。单变量和多变量机器学习模型通过分布式服务部署和维护，以实现可伸缩性和高可用性。AIDR 具有反馈循环，借助漂移检测算法和用户反馈来评估模型质量。它还提供自助入门功能和可定制性。与以前的方法相比，AIDR 在各个内部团队中都取得了成功，其检测时间更短，误报较少。在未来，我们的目标是扩大事故覆盖和预防范围，减少噪音，并与根本原因推荐 (RCR) 进一步整合，实现端到端的 AIDR 体验。

Abstract

We present a machine learning-based anomaly detection product, AI Detect and Respond (AIDR), that monitors Walmart's business and system health in real-time. During the validation over 3 months, the product served predictions from over 3000 models to more than 25 application, platform,

machine learning-based anomaly detection ai detect and respond (aidr)real-time monitoring ml and deep learning models drift detection algorithms

发现论文，激发创造

实时物联网系统中的新奇检测可适应和可解释框架

该论文介绍了 Real-time Adaptive 和 Interpretable Detection（RAID）算法，该算法能够适应多元动态过程中的非静态效应，从而提高检测精度并改进根本原因的隔离控制。

Apr, 2023

AI 数据准备检核员 (AIDRIN) 用于评估数据对人工智能的准备情况

评估数据准备就绪性的 AI 数据准备度量框架 AIDRIN 可量化地评估数据的准备就绪性，并通过指标和可视化报告提高机器学习流程的效率，以便在 AI 应用中做出明智决策。

Jun, 2024

AlerTiger：领英 AI 模型健康监控的深度学习

AlerTiger 是一种深度学习的 MLOps 模型监控系统，通过检测模型输入特征和输出得分的异常来帮助公司内的 AI 团队监控其 AI 模型的健康状况，该方法已在 LinkedIn 的大多数生产 AI 模型中部署超过一年，并且在修复了几个模型问题后，带来了显著的业务指标收益。

Jun, 2023

DeepAID：安全应用中基于深度学习的异常检测的解释与改进

DeepAID 是一个用于解释无监督深度学习模型在安全领域异常检测系统中的通用框架，提供了一种新颖的解释方法，可以满足安全领域的特定要求，并提供了模型扩展来解决特定的问题。实验证明 DeepAID 可以为无监督深度学习模型提供高质量解释，同时有助于降低误报率。

Sep, 2021

ADDAI：分布式人工智能的异常检测

本文提出了 ADDAI：一种分布式人工智能异常检测技术，旨在解决物联网（IoT）和工业物联网（IIoT）中大规模数据传输和系统高速运行的挑战，具有高速、鲁棒性、低通信开销、隐私保护和可扩展性等优点。该技术可减少工业物联网传感器数据上传到云端的通信开销，并提供了 98.4% 的预测准确率。

May, 2022

Real-IAD: 用于评估多视角工业异常检测的现实世界数据集

提出了一个大规模、真实世界的多视角工业异常检测数据集（Real-IAD），包含 30 种对象的 15 万张高清图片，相比现有数据集大一个数量级。该数据集具有更大范围的缺陷区域和比例，具有更高的挑战性。在提供了常用 IAD 方法在该数据集上的结果后，为推动 IAD 领域的发展提供了一个极具挑战性的基准。

Mar, 2024

ARLIF-IDS -- 基于注意力机制的实时孤立森林入侵检测系统

该论文提出了一种基于注意力机制综合孤立森林的入侵检测系统，该系统在 NSL-KDD 和 KDDCUP'99 数据集上的平均检测 F1-Score 为 0.93，执行时间降低了 91.78％。结果证明了该方法在 DDoS 防御上的低复杂度和低计算需求。

Apr, 2022

开源漂移检测工具的实践应用：两个使用案例的洞见

数据漂移对机器学习模型的生命周期造成重大挑战。本研究通过微基准研究 D3Bench 评估了开源漂移检测工具的效能，评估了 Evidently AI、NannyML 和 Alibi-Detect 在两个智能建筑使用案例中的能力。我们重点评估这些工具在识别和分析数据漂移方面的功能适应性，并考虑了一系列非功能性标准，如与机器学习流水线的集成性、对不同数据类型的适应性、用户友好性、计算效率和资源需求。研究结果表明，Evidently AI 在一般数据漂移检测方面表现出色，而 NannyML 在准确定位漂移发生的时间和评估其对预测准确性的影响方面表现出色。

Apr, 2024

RUAD: 针对 HPC 系统的无监督异常检测

该研究提出了一种基于长短期记忆单元的 RUAD 模型来解决高性能计算系统中异常检测的无监督学习问题，该模型通过考虑数据中的时间依赖性显著提高了半监督和无监督状态下的 AUC 性能表现。

Aug, 2022

增强深度学习入侵检测系统的对抗鲁棒性的简单框架

提出了一种新颖的 IDS 结构，它通过结合传统机器学习模型和深度学习模型来增强 IDS 对抗敌对攻击的鲁棒性，该结构包含 DL-based IDS、adversarial example detector 和 ML-based IDS 三个组件，并使用 DL 模型高预测准确性和 DL 模型与 ML 模型之间的低攻击可转移性来改善整个系统的鲁棒性。实验证明，在遭受对抗攻击时，该 IDS 系统在预测性能方面显著提高，高准确率，资源消耗低。

Dec, 2023