Jun, 2023

用交替去噪扩散过程学习图像识别与生成通用表示

PDF
TL;DR本文提出了一种交替去噪扩散过程 (ADDP)，该过程将像素和矢量量化 (VQ) 空间相结合，用于图像识别和生成任务中的表示学习，并取得了在各种任务中的成功结果。
image recognitiongenerationrepresentation learningvq tokensaddp
发现论文，激发创造
  • 基于扩散的表示学习

    提出了一种基于扩散的表示学习方法，通过扩展去噪得分匹配框架实现无监督学习；使用此方法学习无限维潜在码，实现半监督图像分类的最优结果，并通过下游任务的表现比较与其他方法的学习表示质量。

    May, 2021

  • 文本到图像的向量量化扩散模型

    本论文提出了基于矢量量化扩散模型的文本到图像生成方法，在扩散条件变量程序模型的潜在空间中建模基于矢量量化变分自编码器的方法，消除了现有方法中的单向偏​​差，并允许我们结合掩模和替换扩散策略以避免误差积累，其结果在生成复杂场景的图像方面得到了显着的改进。

    Nov, 2021

  • 利用条件降噪扩散模型进行异常检测

    本文提出 DDAD，一种新的基于去噪扩散的异常检测方法，其中包括图像重建的新型去噪过程、利用生成样例细调特征提取器的域适应方法等，通过在多个数据集上的测试验证了其优越性能。

    May, 2023

  • 改进的向量量化扩散模型

    本文提出两种技术，即分类器无指导采样和高质量推理策略，以进一步提高 VQ-Diffusion 样本质量，实验证明改进的 VQ-Diffusion 显著优于原始版本。

    May, 2022

  • AdaDiff：自适应步长选择的快速扩散

    AdaDiff 是一个轻量级框架，通过学习实例特定的步骤使用策略，优化了扩散模型的图像 / 视频生成过程，以最大化平衡推理时间和生成质量的回报函数，并在减少推理时间至少 33% 的情况下实现与基准方法相似的视觉质量。

    Nov, 2023

  • 利用共享表示优化去噪扩散概率模型

    本研究提出一种名为 SR-DDPM 的新方法，通过利用少样本表示学习技术，解决面临有限数据的多任务图像生成挑战，以提高图像质量，并在标准图像数据集上对其进行评估，发现其在 FID 和 SSIM 指标上优于无条件和有条件的 DDPM。

    Nov, 2023

  • 扩散模型中的泛化源于几何自适应的谐波表示

    通过基于分数的逆扩散算法生成的高质量样本提供了证据，表明尽管遭受维度灾难的困扰，用于降噪训练的深度神经网络（DNN）可以学习高维密度。然而，关于训练集记忆化的最近报导引发了一个问题，即这些网络是否正在学习数据的 “真实” 连续密度。在本文中，我们展示了在非重叠的数据集子集上训练的两个降噪 DNN 学习到几乎相同的评分函数，从而学习到相同的密度，并且只需要非常少的训练图像。这种强大的泛化表明 DNN 架构和 / 或训练算法中的强大归纳偏差与数据分布的特性相一致。我们通过对这些内容进行分析来证明这一点，证明了去噪器在适应底层图像的基础上执行了一个收缩操作。对这些基础的检查揭示了轮廓线和均匀图像区域中的振荡谐波结构。我们通过证明即使在训练于低维流形等图像类别的情况下，这些经过训练的去噪器也会生成这种几何自适应谐波表示来表明它们在归纳偏差方面具有偏好。此外，我们还展示了当在已知最优基础为几何自适应谐波的常规图像类别上进行训练时，网络的去噪性能接近最优。

    Oct, 2023

  • 生成、重建和表示离散与连续数据：具有可学习的编码解码的广义扩散

    通过引入可学习的编码器 - 解码器，DiLED 广义扩展了常规扩散过程的高斯噪声去噪方法，在不同数据类型上具有广泛适用性和提升性能。实验证明 DiLED 在处理各种数据和任务上都有很好的灵活性，并在不同已有模型上取得了显著的改进。

    Feb, 2024

  • 密集视觉表示的无监督学习

    本文提出了一种名为 VADeR 的无监督学习方法，通过像素级对比学习来学习像素级别的视图无关的密集表示，该方法在多个密集预测任务中优于 ImageNet 监督预训练和强无监督基线。

    Nov, 2020

  • 无监督像素级域自适应生成对抗网络

    本文提出了一种基于生成对抗网络的方法，通过在像素空间中学习一种转换方法，将源域图像适应为与目标域相同的样子，以解决渲染图像训练模型泛化性不强的问题。该方法不仅可以生成逼真的样本，而且在许多无监督域适应场景中均优于现有技术，并证明了适应过程对于训练期间未被观察到的物体类别的泛化性。

    Dec, 2016