基于深度多理解集成的异常检测
深度学习中用深度集成方法提升神经网络的鲁棒性能,在大规模图片数据集中使用互信息指标 (OOD)的检测效果比单一模型的熵指标要劣 30-40%,使用集成多个分类器的检测得分对 Deep Ensemble OOD 检测性能有着更好的提升表现 。
Jul, 2022
该论文提出了一种基于对比学习的框架,旨在有效地进行 out-of-distribution 检测,利用预训练的语言模型吸收丰富的信息,并在意图分类和异常检测等数据集中取得了显著的效果。
Oct, 2022
通过对大量的异常数据进行实验比较,我们发现基于特征的异常检测方法中,多层方法始终表现优异,而单层方法的性能不稳定且取决于异常类型,同时异常检测的性能也高度依赖于神经网络的架构。
Jul, 2023
机器学习中,识别推理数据是否超出模型的预期输入分布对于给出预测的上下文至关重要。我们的研究针对基于表示或基于逻辑方法的超出分布检测方法,并提出了用于特征嵌入降维的表示方法和解决了一个问题的基于逻辑方法。我们在 OpenOODv1.5 基准框架上验证了我们方法的有效性,结果显示性能显著提升,并达到了最新的技术水平。
Jan, 2024
通过对损失景观和模态集进行研究,提出了一种新的视角来调查面向损失景观的异常样本检测,重访了深度集成方法以提高异常检测性能和减小变异,并通过广泛的实验证明了模态的高度变化和模态集成在提升异常检测中的优越性。
Oct, 2023
这篇论文提出了一种名为 WOOD 的通用弱监督 OOD 检测框架,同时检测多种不同的 OOD 场景,并结合二元分类器和对比学习组件以取得双方的优势,实验证明该模型在多模态 OOD 检测方面超过了现有方法。
Jul, 2023
本研究提出了一种基于多类数据描述的深度学习模型 Deep-MCDD,结合高斯判别分析的概念,利用可分离的高斯分布来建模类别条件分布,通过计算测试样本与每个条件分布之间的距离来定义置信度得分,从而有效地检测和区分内部分布和外部分布样本。
Apr, 2021
使用 SupCon 训练从训练分布中识别外分布样本是机器学习模型安全部署中的重要问题。我们在这项工作中运用强大的 SupCon 学习表征,并提出了一种全面的方法来学习对 OOD 数据稳健的分类器。我们通过增加两个对比项来扩展 SupCon 损失,第一个项将辅助 OOD 表征与 ID 表征分开,而不对辅助数据的相似性产生任何约束。第二个项将 OOD 特征远离现有类原型,并将 ID 表征推近其对应的类原型。当辅助 OOD 数据不可用时,我们提出了特征混合技术来高效生成伪 OOD 特征。我们的解决方案简单高效,作为闭集监督对比表征学习的自然扩展。我们在常见基准测试中与不同的 OOD 检测方法进行了比较,并展示了最先进的结果。
Oct, 2023
本文提出了一种基于显著性地图的深度集成方法,通过增加集合成员之间的差异性来改进分类和 OOD 检测。在多项实验中,该方法优于传统集成技术,同时提高了校准性,在 OpenOOD 基准测试中显示出潜在的实际应用前景。
May, 2023
该研究提出 Maximum Concept Matching(MCM)这一零样本的多模态算法来识别异常数据,利用视觉特征与文本概念进行对齐。研究发现 MCM 比单模态算法在效果上更为优秀,特别是结合视觉 - 语言特征时。
Nov, 2022