Oct, 2023

基于能量的异常检测模型：一种流形扩散恢复方法

PDF
TL;DR提出了一种新的基于能量模型 (EBM) 的异常检测方法，利用数据中的低维结构。该算法首先沿着近似训练数据集的低维流形扰动数据点，然后训练 EBM 最大化恢复原始数据的概率。通过从靠近流形的不同分布生成负样本，转化为近似流形的负样本高度信息丰富，反映了数据中相关变化的模式。MPDR 的能量函数有效地学习了训练数据分布的准确边界，并在检测带有不在分布之内的样本时表现出色。实验结果显示 MPDR 在涉及各种数据类型的不同异常检测任务中表现强劲，例如图像、向量和声音信号。
energy-based modelsanomaly detectionmanifold projection-diffusion recoverylow-dimensional manifoldnegative samples
发现论文，激发创造
  • 持续训练的扩散辅助能量模型

    本文介绍了通过引入扩散数据和使用增强采样算法，通过持续对比散度学习一种联合的能量基模型，称为扩散辅助 - EBM，来实现复杂的，多模态分布的准确采样和密度估计，并进行了 2D 和图像实验，证明了持续训练的 EBMs 可以同时实现长时间稳定性，后训练图像生成和卓越的异常检测。

    Apr, 2023

  • 通过扩散恢复似然学习能量相关模型

    本文提出了一种基于扩散概率模型的能量模型训练和采样方法，其将数据集分成一系列噪声水平并在其上训练每个 EBM，优化回收概率而非边缘概率的方式为此提供了一个简便的方法，并在多个图像数据集及 CIFAR-10 上实现了高保真采样。

    Dec, 2020

  • 能量基础异常检测和定位

    本文探讨了利用能量模型解决半监督图像异常检测和定位问题的初步进展，并通过实验验证了该方法在 MVTec 工业数据集上的很强的检测和定位性能表现。

    May, 2021

  • 深度结构化能量模型在异常检测中的应用

    本研究提出了深度结构化能量模型，其中能量函数是具有结构的确定性深度神经网络的输出，该模型可以应用于不同类型数据的结构，通过训练算法提高异常检测准确性。

    May, 2016

  • 基于能量的模型进行了解分布检测

    本文研究了使用能量基模型进行 out-of-distribution 检测，并发现能量基模型并未表现出优越性，我们假设能量基模型在学习语义特征方面存在不足，通过实验验证发现监督学习和架构限制能够提高 EBMs 的 OOD 检测能力。

    Jul, 2021

  • 使用能量偏差训练离散能量模型

    本文介绍了通过能量差异（ED）这种新型对比损失函数训练离散能量模型（EBMs）的方法，并研究了基于伯努利噪声、确定性变换和邻域结构的三种扰动过程对其效果的影响。

    Jul, 2023

  • 通过扩散过程改进敌对能量模型

    通过将能量式模型（EBMs）嵌入到去噪步骤中，将长时间生成的过程分解为几个较小步骤，采用对称的 Jeffrey 散度和引入变分后验分布进行生成器的训练，以解决对抗性 EBMs 存在的主要挑战，实验证明与现有的对抗性 EBMs 相比，在生成方面有显著的改进，同时为高效密度估计提供了有用的能量函数。

    Mar, 2024

  • 用扩散对比散度训练能量模型

    本文提出了一种更加高效的 Diffusion Contrastive Divergence 算法，将其作为 Contrastive Divergence 算法的一种特殊实例，并在合成数据建模、图片去噪和生成等方面进行了实验，结果表明新算法在计算效率和生成性能方面都优于传统算法。

    Jul, 2023

  • 通过合作扩散恢复似然学习能量模型

    我们提出了协同扩散恢复似然 (CDRL) 方法，该方法通过在逐渐噪声增加的数据版本上定义一系列的能量基模型 (EBM)，并配对每个 EBM 的初始化模型，以从 EBMs 学习并采样，从而显著提高了样本质量。在 CIFAR-10 和 ImageNet 32x32 上，与现有的 EBM 方法相比，我们的方法在 FID 得分上有明显提高，并且比 DRL 快 2 倍。此外，我们还将我们的方法扩展到组合生成和图像修复任务，并展示了 CDRL 在无分类器指导的条件生成中的兼容性，实现了与扩散模型相似的样本质量和样本多样性的权衡。

    Sep, 2023

  • 能量模型中特征多样性

    本文研究能量学习及能量模型，重点关注特征集的多样性和冗余性的影响，利用 PAC 理论推导出各种上下文中的泛化界限，并表明减少特征集的冗余性可以提高模型的性能。

    Jun, 2023