对比预测编码用于异常检测
本文提出了一种基于自我监督学习方法的特定任务变体对比学习称为 “遮蔽对比学习”,其更适用于异常检测,并提出了一种自我集成推断方法,通过利用辅助自我监督任务学习的能力进一步提高模型性能,在各种基准数据集上的表现显著超过以往的最先进方法。
May, 2021
本研究提出了一种普适的无监督学习方法 Contrastive Predictive Coding,通过使用强大的自回归模型在潜在空间中预测未来来提取高维数据的有用表示,以此学习有用的表示并在语音,图像,文本和三维环境中的强化学习中实现了强大的表现。
Jul, 2018
本文提出一种新的深度异常检测方法,利用预训练的表示在外部数据集上进行对比学习,并基于分析提出改进的对比学习目标函数 Mean-Shifted Contrastive Loss,该方法可以显著提高异常检测性能。实验结果表明,与现有方法相比,在 CIFAR-10 数据集上实现了 98.6%的 ROC-AUC 表现,达到了最新的技术水平。
Jun, 2021
本研究提出了一种名为 ReConPatch 的方法,通过训练与预训练模型相关的线性调制来构建判别性特征,采用对比表示学习来以目标为导向地收集和分布特征,实现了无需大量输入增强即可实现强健的异常检测性能。
May, 2023
针对时间数据中的异常检测问题,提出了一种新的方法,借鉴了 DeepSVDD 的损失函数,结合了 Neutral AD 的确定性对比损失,提高了在实际工业数据集中的性能表现。
Apr, 2023
本文提出了一种基于对比度学习的语义分割训练策略,使用像素级和标签基础对比损失的方法,能够在减少标记数据的情况下提高性能,并通过 Cityscapes 和 PASCAL VOC 2012 数据集的实验证明了该方法的有效性。
Dec, 2020
我们提出了一种基于深度学习的 CPD/AD 方法,名为 Probabilistic Predictive Coding (PPC),该方法通过联合学习将序列数据编码成低维潜在空间表示,并预测后续的数据表示以及相应的预测不确定性。该方法具有解释性和可调整性,具有线性时间复杂度,并能适应多种数据类型和复杂应用。
May, 2024
最近的无监督异常检测方法往往依赖于使用辅助数据集预先训练的特征提取器或经过精心设计的异常模拟样本,然而,这可能限制它们适应日益增多的异常检测任务的能力,因为辅助数据集的选择或异常模拟策略中存在先验条件。为了解决这个挑战,我们首先引入了一个无先验异常生成范式,随后在此基础上开发了一种名为 GRAD 的创新的无监督异常检测框架。GRAD 包括三个关键组成部分:(1)一个扩散模型(PatchDiff),通过保留局部结构而忽略正常图像中存在的全局结构,生成对比模式;(2)一种自监督加权机制来处理 PatchDiff 生成的长尾和无标签对比模式的挑战;(3)一个轻量级的基于补丁的检测器,以有效区分正常模式和重新加权的对比模式。PatchDiff 生成的结果有效地暴露了各种类型的异常模式,例如结构和逻辑异常模式。此外,在 MVTec AD 和 MVTec LOCO 数据集上进行的大量实验证明了前述观察结果,并展示了 GRAD 在异常检测准确性和推理速度方面的竞争力。
Dec, 2023
本文提出了一种利用 “对比自监督学习” 框架进行基于深度学习的异常检测的方法,该方法能够使用大量属性和复杂的结构高效检测到网络中存在的异常,并在七个基准数据集上超越目前最先进的方法。
Feb, 2021
我们提出了一种自监督异常检测方法,结合对比学习和 2D-Flow,以实现更精确的检测结果和更快的推理过程。与主流的无监督方法相比,我们的方法展示了优越的检测准确度、更少的额外模型参数和更快的推理速度,整个训练和推理过程都是端到端的。
Nov, 2023