利用扩散先验进行外部分布检测

Jun, 2024

Exploiting Diffusion Prior for Out-of-Distribution Detection

Armando Zhu, Jiabei Liu, Keqin Li, Shuying Dai, Bo Hong...

TL;DR利用扩散模型的生成能力和 CLIP 的强大特征提取能力，我们提出了一种新颖的 OOD 检测方法，通过使用这些特征作为扩散模型的条件输入，我们可以在使用 CLIP 进行编码后重建图像。原始图像与重建图像之间的差异被用作 OOD 识别的信号，我们的方法不需要类别特定的标记，提高了实用性和可扩展性，且经过多个基准数据集的广泛实验证明了我们方法的鲁棒性和有效性。

Abstract

Out-of-distribution (OOD) detection is crucial for deploying robust machine learning models, especially in areas where security is critical. However, traditional ood detection methods often fail to capture complex data distributions from large scale date. In this paper, we present a no

out-of-distribution detection ood detection methods diffusion models clip detection accuracy

发现论文，激发创造

NODI: 带有扩散噪声的离群检测

采用扩散过程将提供整个训练集的信息纳入预测的噪声向量中，并推导出噪声向量的闭合解，将噪声向量转化为用于度量 OOD 的得分。通过在 OOD 基准测试上对比深度模型预测的噪声向量和闭合解噪声向量的表现，我们的方法在所有类型的图像编码器中胜过以前的 OOD 方法，其中使用 MAE-based 图像编码器达到了 3.5％的性能提升，并且通过应用不同类型的图像编码器来研究 OOD 方法的健壮性，我们的方法在所有图像编码器中表现出良好的鲁棒性。

Jan, 2024

基于置信度的越界检测：一项比较研究与分析

通过对比研究和深度分析来评估各种最先进的方法对基于置信度的 OOD 检测的能力，并采用计算机视觉基准来复现和比较多种 OOD 检测方法。评估了它们在使用胸部 X 线进行疾病分类这一具有挑战性任务中的能力，结果表明在计算机视觉任务中高性能不直接转化为医学成像任务中的准确性，因此为开发下一代 OOD 检测方法提供了有用的见解。

Jul, 2021

使用大型语言模型生成的同类对等生成器进行外部分布检测

提出了一种名为 ODPC 的新方法，通过大型语言模型设计生成特定提示词来产生具有 ID 语义的 OOD 对等类，以便于检测，并采用基于 OOD 对等类的对比损失来学习紧凑的 ID 类别表示，并改善不同类别之间的界限清晰度。在五个基准数据集上进行的广泛实验表明，该方法可以得到最先进的结果。

Mar, 2024

扩散去噪平滑在认证和对抗鲁棒的 ODD 检测中的应用

研究机器学习中如何确定训练分布和 ODD（Out-Of-Distribution）样本的检测机制，提出了一种基于 l2 范数的无需特定组件或训练的 ODD 鲁棒性证明的新方法以及改进了检测 ODD 攻击技巧的现有技术，在 CIFAR10 / 100 平均 OOD 检测度量方面相对于之前的方法有约 13％/ 5％的提高，并在分布内样本上提供高水平的认证和敌对鲁棒性。

Mar, 2023

全面的 OOD 检测改进

机器学习中，识别推理数据是否超出模型的预期输入分布对于给出预测的上下文至关重要。我们的研究针对基于表示或基于逻辑方法的超出分布检测方法，并提出了用于特征嵌入降维的表示方法和解决了一个问题的基于逻辑方法。我们在 OpenOODv1.5 基准框架上验证了我们方法的有效性，结果显示性能显著提升，并达到了最新的技术水平。

Jan, 2024

单一无条件扩散模型的外部分布检测

本文介绍了一种名为 Diffusion Paths（DiffPath）的方法，通过利用一个经过训练的单一扩散模型对无条件生成进行 ODD 检测，并引入了一种测量扩散路径变化率和曲率的新技术。实验表明，DiffPath 在涉及不同分布的各种 ODD 任务中，单一模型的性能优于之前的方法。

May, 2024

改进的外部分布检测对比训练

本文介绍了一种利用对比性训练来提高机器学习系统检测异常数据输入的方法，通过引入和使用混淆对数概率得分来量化数据集的内离散度，作者证明了这种方法在 “近 OOD” 类的性能较先前方法有所提高。

Jul, 2020

Perceptron 偏置的扩散去噪处理在超分布检测中的应用

本文提出了一种新的 OOC 检测方法，探讨了鉴别模型在特定区域中对数据更敏感，借此提出了基于扩散模型的检测方法和指标分数，结合鉴别模型和生成模型进行检测，实验结果表明该方法在 CIFAR10 和 CIFAR100 数据集上有竞争力。

Nov, 2022

现有的超出分布技术适用于网络入侵检测吗？

通过分析网络入侵检测中机器学习的应用，以及探究其他领域中现有的检测器是否能有效识别网络安全新形式的入侵以及改进的嵌入空间如何增强检测，本文发现现有检测器能够辨别出部分新的恶意网络流量，并且改进的嵌入空间能够提升检测性能。同时，简单的检测器组合可以在所测试的场景中几乎识别出 100% 的恶意流量。

Aug, 2023

针对超出分布检测的可证明保障

本文研究了如何检测机器学习模型移植到实际应用中可能出现的数据分布偏移，提出了一个以神经网络为基础的 OOD 检测方法，并结合理论与实验表现对其进行了分析与评估。

Dec, 2021