Jun, 2024

图像神经场扩散模型

PDF
TL;DR通过在图像神经场上训练扩散模型，我们可以学习连续图像的分布，并显示其在分辨率上的优势。我们提出了一种简单而有效的方法，可以将现有的潜在扩散自动编码器转换为图像神经场自动编码器。通过使用混合分辨率图像数据集对其进行训练，我们证明了图像神经场扩散模型优于固定分辨率扩散模型后跟超分辨率模型，并能高效地解决应用于不同尺度的逆问题。
diffusion modelsimage neural fieldslatent spacephotorealisticmixed-resolution image datasets
发现论文，激发创造
  • 扩散模型在图像分类上胜过 GAN

    本文探讨了使用一种单一的预训练阶段进行生成性和判别性任务的统一表征学习器 —— 扩散模型，并发现这种模型在图像分类任务中具有优异的性能，特别是在经过精心特征选择和池化的情况下，扩散模型明显优于 BigBiGAN 等其他可比较的生成 - 判别方法

    Jul, 2023

  • 神经网络扩散

    扩散模型以及自动生成的神经网络参数，通过混合使用自动编码器和标准潜在扩散模型，从训练网络参数的随机噪声中合成潜在参数表示，并生成具有可用性的新的网络参数子集，从而稳定地提升性能。

    Feb, 2024

  • 大数据训练的扩散模型具有可迁移的视觉模型

    通过使用预训练的 UNet（或 transformer）扩散模型仅需适量的目标数据（甚至只有合成数据），在基础视觉感知任务中能够实现出色的可传递性表现，包括单眼深度、表面法线、图像分割、抠图、人体姿势估计等。

    Mar, 2024

  • 使用潜在扩散模型进行高分辨率图像合成

    通过在预训练的自编码器的潜在空间中应用扩散模型，引入交叉注意力层到模型体系结构中，以更少的计算要求取得接近最优的性能，实现高分辨率合成，缩小像素级 DMs 对计算资源的需求。

    Dec, 2021

  • 神经扩散模型

    传播模型是生成任务中表现出色的模型，然而大部分传播模型仅允许对数据分布进行线性变换，相比之下，更广泛的转换可能有助于更高效地训练生成分布并消除真实负对数似然和变分近似之间的差距。在本文中，我们介绍了神经传播模型 (NDMs)，这是传统传播模型的泛化，可以定义和学习数据的时间相关的非线性转换。我们展示了如何在无需模拟的情况下使用变分上界来优化 NDMs。此外，我们导出了 NDMs 的时间连续形式，可以使用现成的数值 ODE 和 SDE 求解器进行快速可靠的推断。最后，我们通过在标准图像生成基准测试上的实验，包括 CIFAR-10、ImageNet 的降采样版本和 CelebA-HQ，展示了可学习转换的 NDMs 的实用性。NDMs 在似然度和生成高质量样本方面优于传统传播模型。

    Oct, 2023

  • LN3Diff：可扩展的潜在神经场扩散用于高速 3D 生成

    LN3Diff 是一个新颖的框架，通过使用 3D 感知架构和变分自编码器将输入图像编码到结构化、紧凑和 3D 潜空间中，然后通过基于 Transformer 的解码器将潜空间解码为高容量的 3D 神经场，从而在 3D 生成、单目 3D 重建和有条件 3D 生成等各种数据集上展现出卓越的表现，并在推理速度方面超越了现有的 3D 扩散方法。

    Mar, 2024

  • 扩散概率场

    本文介绍了一种新的扩展 Diffusion probabilistic models 方法的方法 Diffusion Probabilistic Fields (DPF), 可用于在度量空间中学习定义为连续函数的概率分布，通过将场参数化作为一种显式形式来解决以前方法的问题。与以前的方法相比，DPF 在处理 2D 图像、3D 几何等不同模态以及定义在非欧几里德度量空间上的领域上的分布时表现出色。

    Mar, 2023

  • 潜在空间中的领域转移（DTLS）能在图像超分辨率中取得胜利 - 一种非降噪模型

    本文提出了一种简单的方法来进行高效图像超分辨率，该方法采用了扩散模型的基本结构，通过建立领域之间的转移关系，学习统计特性的差异以促进逐步插值，并通过参考输入的 LR 图像对转移领域进行条件控制，实验结果表明，该方法不仅优于最先进的大规模超分辨率模型，也优于当前的扩散模型，此方法可以方便地扩展到其他图像到图像的任务，如图像增强、修复、去噪等。

    Nov, 2023

  • HOLODIFFUSION：使用 2D 图像训练 3D 扩散模型

    本研究提出了一种新的扩散设置，可以仅通过 2D 图像监督就可以进行端到端的训练，同时提出的图像形成模型将模型内存与空间内存分离，以应对 3D 扩散模型在训练上遇到的问题，并在 CO3D 数据集上进行的实验表明，该方法是可扩展的，具有稳健性，与现有的 3D 生成建模方法在样本质量和保真度方面相当竞争。

    Mar, 2023

  • 使用三面体扩散生成 3D 神经场

    本研究提出了一种基于扩散模型的高效的神经场三维生成方法，通过将训练数据转换为连续占据场并将其分解为一组轴对齐的三面体特征表示来实现，训练过程中，采用现有的二维扩散模型对这些特征表示进行训练，生成高质量和多样性的三维神经场，且优于其他三维生成方法。

    Nov, 2022