Sep, 2023

用于细粒度开放集识别的潜在空间能量模型

PDF
TL;DR本文探讨了在细粒度视觉世界中基于低维潜在空间与能量模型的先验分布的开放集识别问题，提出了一个属性感知信息瓶颈（AIB）模块、一个残差属性特征聚合（RAFA）模块和一个基于不确定性的虚拟异常点合成（UVOS）模块，分别改善了精细化类别样本的表达能力、细粒度和密度。该方法可利用近期的视觉变换器进行强大的视觉分类和生成，并在精细化和通用的视觉分类数据集上得到验证，同时保持了生成高分辨率逼真图像的能力。
fine-grained open-set recognitiongenerative modelsenergy-based modelslatent spaceattribute-aware information bottleneck
发现论文，激发创造
  • 可解释文本建模的潜在扩散基于能量模型

    该论文提出了一种新的基于扩散模型与潜空间 EBM 的符号学方法，该方法结合了基于几何聚类的正则化与信息瓶颈，从而在解释性文本建模方面表现出比强大对手更优异的性能。

    Jun, 2022

  • 学习潜空间能量先验模型

    通过在生成模型的潜在空间中学习基于能量的模型（EBM），从而使 EBM 成为先验模型，该模型建立在生成模型的自上而下网络之上。通过最大似然联合学习，可以同时学习潜在空间的 EBM 和自上而下网络，并涉及从潜在向量的先验和后验分布中进行短程 MCMC 采样。由于潜在空间的低维度和自上而下网络的表现力，简单的潜在空间 EBM 可以有效地捕捉数据中的规律，并且潜在空间中的 MCMC 采样效率高且混合良好，表现出良好的图像和文本生成和异常检测能力。

    Jun, 2020

  • 使用联合潜在空间能量先验学习层次特征

    本文研究多层生成模型在学习分层表示中的基本问题，并提出了一种联合潜在空间的基于能量的模型，通过多层潜在变量实现了有效的分层表示学习，并对数据分布建模。

    Oct, 2023

  • 使用条件概率生成模型进行开集识别

    本文提出了一种新的条件概率生成模型（CPGM）框架，将辨别信息引入到概率生成模型中，以检测未知样本并分类已知类别。通过在多个基准数据集上进行实验，证明该方法明显优于基线并取得了新的最佳性能。

    Aug, 2020

  • 探索开放集识别的多样化表示

    基于对开集识别的理解并发现学习辅助表示可以从理论上降低开放空间风险，本文提出了一种名为多专家多样注意力融合（MEDAF）的新模型，该模型以辨别性方式学习多样的表示，通过多个学习的专家进行自适应融合，并使用评分函数来识别未知样本，实验证明该模型在开放集识别上能够超越现有的生成模型的 AUROC 高达 9.5%，并以较小的计算成本实现了新的最先进性能，同时也能无缝集成现有的分类模型。

    Jan, 2024

  • 能量模型中特征多样性

    本文研究能量学习及能量模型，重点关注特征集的多样性和冗余性的影响，利用 PAC 理论推导出各种上下文中的泛化界限，并表明减少特征集的冗余性可以提高模型的性能。

    Jun, 2023

  • 面向开集模型归因的逐步开放空间扩展

    本文提出了一种基于逐步扩展开放空间的解决方案，即 Progressive Open Space Expansion（POSE），用于 Open-Set Model Attribution（OSMA）任务中，以同时将图像归因于已知模型并识别来自未知模型的图像。

    Mar, 2023

  • 广义能量基模型

    本文介绍了广义能量模型（GEBM）的产生式建模方法，指出了其在图像生成任务和密度建模任务中的应用和比 GANS 更好的性能表现。

    Mar, 2020

  • 通过对比潜变量引导基于能量的模型

    本文提出了一种基于对比学习的框架，通过引入对比潜变量来改进能量基模型的训练，设计一种新类的潜变量 EBMs 实现数据联合密度估计和对比潜变量的联合训练，实验结果表明该方案比现有的 EBM 方法（如变分自动编码器或扩散技术）具有更低的 FID 分数，训练速度更快、内存效率更高，并展示了该潜变量 EBMs 的条件和组合生成能力。

    Mar, 2023

  • 基于全球本地化能量的少样本开放式识别学习

    本篇论文提出了一个新的基于能量的混合模型用于 few-shot 开放集识别任务，利用类内和像素级特征来学习全局能量评分，强制模型对偏离 few-shot 示例的样本分配大的能量分数，在三个标准数据集上取得了最优秀的性能。

    Apr, 2023