May, 2024

非监督式表征学习的扩散桥自编码器

PDF
TL;DR通过引入 Diffusion Bridge AuteEncoders（DBAE），我们解决了传统扩散模型中信息拆分问题，并实现了更好的重构模型和生成模型，提高了下游推断质量、重构质量和解耦性能。
diffusion-based representation learninglatent representationsample generationdbaeinformation bottleneck
发现论文，激发创造
  • 预训练扩散概率模型中的无监督表征学习

    本文提出了一种基于现有预训练 DPM 模型的图像重建通用方法 PDAE，实现了比 Diff-AE 更好的训练效率和性能，并通过对分类器引导采样的机制填补信息缺失的空隙，使编码器对图像进行更好的重建，表现出了较高的有效性、效率和灵活性。

    Dec, 2022

  • 降噪扩散桥模型

    通过扩展扩散模型，使用扩散桥模型作为一种自然替代方法，该模型通过从数据中学习扩散桥分数并解决基于这些分数的（随机）微分方程，将一种分布映射到另一种分布，从而实现图像编辑等应用中纳入非随机噪声信息的目标。

    Sep, 2023

  • 变分扩散自编码器：具有无条件扩散先验的深层潜变量模型

    采用扩散模型集成编码器和无条件扩散模型的得分函数，消除了 VAE 图像模糊的问题，并显著提高了性能。

    Apr, 2023

  • DiffEnc：学得的编码器的变分扩散

    用两种改进的扩散模型，DiffEnc 和具有权重参数的扩散损失方法，实现了最先进的 CIFAR-10 评估结果，同时探索了有限深度层次结构和无限深度层次结构中扩散模型的性质。

    Oct, 2023

  • 基于扩散的表示学习

    提出了一种基于扩散的表示学习方法，通过扩展去噪得分匹配框架实现无监督学习；使用此方法学习无限维潜在码，实现半监督图像分类的最优结果，并通过下游任务的表现比较与其他方法的学习表示质量。

    May, 2021

  • 分层扩散自编码器与分离图像操作

    本论文提出了一种通过使用分层扩散自动编码器 (HDAE) 以及基于截断特征的方法对扩散模型潜空间进行描述，从而实现对图像的多种操作和语义合成。

    Apr, 2023

  • 因果扩散自编码器：通过扩散概率模型实现反事实生成

    提出了 CausalDiffAE，一种基于扩散的因果表示学习框架，能够根据指定的因果模型实现反事实生成，并通过编码器从高维数据中提取语义上有意义的因果变量，以及使用神经网络参数化潜在因果变量之间的因果机制。

    Apr, 2024

  • 使用扩散模型提供无限数据计划升级 VAE 训练

    通过使用预训练的扩散模型生成的样本进行训练，可以有效减轻变分自动编码器中的过拟合问题，并且表现出更好的泛化性能、缩小的模型猜测效应和更强的鲁棒性。

    Oct, 2023

  • DiffuseGAE：通过解耦表示的可控高保真图像操作

    本篇研究介绍 Diff-AE 与 GAE 两种基于 Diffusion probabilistic models 的编码器模型，实现由多个属性进行图像编辑和生成，大大降低了计算需求，并达到了相当不错的效果，对潜在特征得到了更好的分离。

    Jul, 2023

  • 训练去噪自编码器以最小化二进制交叉熵

    本文理论证明了用 BCE 训练的 DAE 能够在数据空间中向高概率区域梯度下降，进而在实验中通过噪声数据生成和对初始数据的迭代应用 DAE 进行数据向高概率区域的改进。

    Aug, 2017