Mar, 2023

基于规则的异常检测

PDF
TL;DR采用可解释人工智能 (XAI) 方法，使用不同的度量标准来识别样本的相似程度，验证模型非参数和分布假设的假设，检测机器学习中最关键的问题之一 —— 超出分布检测，并在预测维护、车队编队和网络安全等复杂情境中进行了验证，得出了精确的检测和对训练 - 操作条件的评价。
out-of-distribution detectionmachine learningexplainable artificial intelligence (xai)validationopen source
发现论文，激发创造
  • 马哈拉诺比斯感知训练用于外部分布检测

    在本研究中，我们提出了一种新的损失函数和网络训练方法，以提高密度感知的开放世界环境中对异常和越界样本的检测能力，并在 CIFAR-10 数据集上进行了验证，将相对马氏距离方法在远距离越界任务中的错误正例率降低了 50% 以上。

    Nov, 2023

  • 医学图像分析中的外域检测：一项调查

    深度学习在计算机辅助诊断中得到了应用，但在实际临床场景中可能遇到分布偏移导致的静默失败问题，而最近的研究则探索了各种解决方案，包括分类和评估协议，以及缺乏探索的研究方向。

    Apr, 2024

  • 针对超出分布检测的可证明保障

    本文研究了如何检测机器学习模型移植到实际应用中可能出现的数据分布偏移，提出了一个以神经网络为基础的 OOD 检测方法，并结合理论与实验表现对其进行了分析与评估。

    Dec, 2021

  • 基于 OOD 训练数据的许多方法估计相同核心量的组合来分解 OD 检测

    本文旨在识别常见的目标，以及识别不同 OOD 检测方法的隐含评分函数。我们展示了许多方法在共享学习方式下表现相似，二进制区分器达到与异常暴露相似的 OOD 检测性能，还展示了置信度损失具有在理论上最优得分函数不同但与训练和测试 out-distribution 相同时的函数相似的隐含评分函数，从实践中发现，这些方法训练方式一致时都表现相似。

    Jun, 2022

  • 自然语言处理中的超领域检测综述

    本文回顾了最近关于 out-of-distribution 检测的进展，重点关注了自然语言处理方面的方法。通过分类和介绍数据集、应用和评估指标，总结了现有的研究，同时提出了未来的研究方向。

    May, 2023

  • 可证明鲁棒性的无需付出昂贵代价的异常检测

    研究使用机器学习技术的安全关键系统需要可靠的不确定性评估。本研究发现，深度神经网络在处理分布外数据时可能会产生过度自信的预测。本研究提出了一种具有保护分布外数据和高准确度的分类器，并提供所有实验代码。

    Jun, 2021

  • 学习增强的网络物理系统中的实时异常检测

    本论文研究了如何在物理控制系统中高效检测数据分布的异常点，提出了利用归纳式一致性预测和异常检测方法进行检测的方案，并通过仿真实验在自动驾驶和紧急制动系统中得到了良好的实验结果。

    Jan, 2020

  • 基于置信度的越界检测：一项比较研究与分析

    通过对比研究和深度分析来评估各种最先进的方法对基于置信度的 OOD 检测的能力，并采用计算机视觉基准来复现和比较多种 OOD 检测方法。评估了它们在使用胸部 X 线进行疾病分类这一具有挑战性任务中的能力，结果表明在计算机视觉任务中高性能不直接转化为医学成像任务中的准确性，因此为开发下一代 OOD 检测方法提供了有用的见解。

    Jul, 2021

  • 神经网络的错误分布检测中学习置信度

    通过提出一种简单易实现、产生直观可解释输出的神经网络置信度学习方法，我们成功地实现了对神经网络预测错误的检测以及超出安全执行区域的检测，在该任务中表现优异，并在不需要额外标签或进入区别于正常数据集之外的样本的情况下超过了最近提出的指标构建方法。此外，我们还解决了置信度检测器校准问题，即我们证明被错误分类为正常数据集的正常样本是超出安全执行区域的样本的良好替代品。

    Feb, 2018

  • 训练神经网络的异常检测性能分析

    本文分析了三种 in - 和 out-of-distribution 数据的分离方法及其性能，包括超级监督的应用及其训练过程中的性能评估，研究表明理解训练结果与监督性能与提高模型强健性密切相关，为安全应用提供了论据，并应用于两个额外的数据集。

    Apr, 2022