神经网络中增强外部分布图像检测的可靠性
本文研究了如何检测分类错误和分布异常问题，提出了一种基于softmax概率分布的简单基准线，在计算机视觉、自然语言处理和自动语音识别等领域展示了这种基准线的有效性，表明这些未充分探索的检测任务有待未来研究。
Oct, 2016
通过提出一种简单易实现、产生直观可解释输出的神经网络置信度学习方法，我们成功地实现了对神经网络预测错误的检测以及超出安全执行区域的检测，在该任务中表现优异，并在不需要额外标签或进入区别于正常数据集之外的样本的情况下超过了最近提出的指标构建方法。此外，我们还解决了置信度检测器校准问题，即我们证明被错误分类为正常数据集的正常样本是超出安全执行区域的样本的良好替代品。
Feb, 2018
本文介绍了一种基于Gram矩阵的方法，可用于检测深度神经网络中的Out-of-Distribution异常案例，结合对于训练数据范围内对比每个值，其值与范围的关系进行的异常检测，无需访问OOD数据进行超参数微调，并可适用于任何预训练的softmax分类器，对于检测远离分布的Out-of-Distribution案例，该方法通常表现优于或等于现有的OOD检测方法。
Dec, 2019
本篇论文提出了两种方法，用于加强ODIN检测方法在不需经过out-of-distribution数据训练或调整的情况下的性能表现，这两种方法包括对置信度打分的分解以及对输入数据的改进预处理。文章还对两种分布偏移（语义偏移和非语义偏移）的问题上，展开了深入细致的分析。
Feb, 2020
本文主要研究深度学习模型在检测 in-distribution 和 OOD inputs 时受到极小对抗扰动的影响，并提出了一种名为 ALOE 的有效算法，该算法通过将模型暴露于经过对抗训练的 inlier 和 outlier examples 中的方式，可以灵活地与现有方法相结合，提高现有的 Out-of-distribution detection 方法的鲁棒性，CIFAR-10 和 CIFAR-100 数据集的 AUROC 分别提高了58.4% 和46.59%。
Mar, 2020
在开放世界中安全部署机器学习模型的重要基础是确定输入是否为ODD, 然而，传统基于softmax置信度得分的方法在ODD数据的后验分布上存在过度自信的问题，本文提出了一个使用能量分数的ODD检测的统一框架，理论上更能够识别“内部”和“外部”数据。这个框架内可以灵活地将能量用作得分函数和OOR检测的可训练成本函数，与CIFAR-10预训练的WideResNet相比，使用能量分数将平均FPR （在TPR 95％处）降低了18.03％，并且使用基于能量的训练，我们的方法在常见基准上表现优异。
Oct, 2020
本文目的在于利用异方差温度缩放作为一种校准策略来检测非分布数据。提出一种新的训练策略，称为锚定，可以估计每个样本的适当温度值，从而实现在几个基准测试中最先进的OOD检测性能。通过实验研究，我们建立了一种高度有效的OOD检测方法。
Jul, 2022
我们介绍了NECO，一种基于神经元崩溃和主成分空间几何特性的后处理方法，用于检测异常数据。我们的实验结果显示NECO在小规模和大规模异常数据检测任务上都达到了最先进的效果，且在不同网络结构上具有强大的泛化能力。
Oct, 2023
基于神经激活先验的针对超出分布检测的方法，利用神经网络的前全局池化层之前的通道的激活概率差异来提取与ID样本和OOD样本的相关特征，并提出了一种新的评分函数用于强调这些强激活的神经元在超出分布检测中的作用，该方法能够与现有方法有效地结合，实验结果表明其在多个数据集上达到了最先进的性能。
Feb, 2024