Jun, 2023

使用模块化代码库进行三维感知图像合成的基准测试和分析

PDF
TL;DR通过将神经辐射场引入生成对抗网络的生成器中，采用模块化的生成过程并独立开发和替换每个模块的方法，对 3D-aware 图像合成的多种方法进行了研究和评估并发布了实现代码和模型，进而深化了我们对现有方法的理解和指出了进一步的研究方向。
3d-aware image synthesisneural radiance fieldgenerative adversarial networkmodularizingevaluation
发现论文，激发创造
  • 通过学习结构和纹理表示进行 3D 感知图像合成

    通过学习结构特征和纹理特征，我们提出了一种新的 VolumeGAN 框架，它能够更好地生成高保真度的 3D 感知图像，并且具有独立控制形状和外观的能力。

    Dec, 2021

  • CAMPARI: 相机感知的分解式生成神经辐射场

    本文提出了一种深度生成模型，它是基于 3D 且与摄像机相关的，通过将场景分成背景和前景模型，并学习摄像机与图像生成器，达到了更高效且可分离的场景再现效果。

    Mar, 2021

  • 人体综合的三维感知语义引导生成模型

    提出了一种基于 3D-SGAN 的语义指导生成模型，利用生成神经辐射场（GNeRF）提取人体的隐式 3D 表示，并用纹理生成器将语义掩码转换为真实图像，为计算机图形学应用中的非刚性物体生成具有照片级真实感的图像。在 DeepFashion 数据集上，比最新的基准表现显著优秀。

    Dec, 2021

  • 基于组合神经辐射场的语义三维感知人像合成与操作

    通过分割语义区域并利用神经辐射场学习各自的辐射场，最后合并成完整图像，CNeRF 方法可以实现细粒度的语义区域操作，同时维持高质量的 3D 一致合成。

    Feb, 2023

  • GANeRF: 利用判别器优化神经辐射场

    采用生成对抗网络对神经辐射场（NeRF）进行优化，修复 3D 场景重建中存在的照明、采样等问题，从而实现更高质量的渲染。

    Jun, 2023

  • ArtNeRF: 一种用于 3D 感知的卡通化人脸合成的风格化神经场

    ArtNeRF 是一种从三维感知生成对抗网络 (GAN) 派生的新型人脸风格化框架，通过利用表达能力强的生成器合成风格化人脸，并利用三分支鉴别器模块改善生成的人脸的视觉质量和风格一致性，通过对比学习实现一个基于风格编码器来提取风格图像的稳健低维嵌入，以赋予生成器对各种风格的知识，并通过自适应风格融合模块平滑跨域迁移学习的训练过程，实现了图像的高分辨率实时渲染。大量实验表明，ArtNeRF 在生成任意风格的高质量三维人脸方面具有通用性。

    Apr, 2024

  • ContraNeRF: 通过对比学习和无监督隐式姿态嵌入的三维感知生成模型

    本文提出了一种使用对比学习和隐式姿态嵌入的 3D 感知生成对抗网络优化技术。通过重新设计鉴别器，从而消除对基准相机姿态的依赖性，使其更好地捕捉给定图像的隐式姿态嵌入，并在姿态嵌入上进行对比学习，实验结果表明在多个物体类别和不一致的基准相机姿态数据集上显著优于现有方法。

    Apr, 2023

  • 基于阴影引导的生成式隐式模型用于精确形状的 3D 感知图像合成

    本研究提出了一种基于阴影引导的生成式隐式模型，该模型利用多角度光照约束对 3D 物体进行建模，使得在不同光照条件下产生逼真的渲染效果，从而改善先前方法在表达精确 3D 形状方面的局限性，并成功应用于图像重照和 3D 形状重建任务。

    Oct, 2021

  • 可编辑的小说视角合成的统一分解和组合 NeRF 学习

    本论文提出了一个统一的神经辐射场（NeRF）框架，以有效地进行场景分解和合成，用于建模现实世界场景，通过学习不同对象的解耦 3D 表示进行场景编辑，同时为新颖视角合成建模整个场景表示。

    Aug, 2023

  • 通过引导辐射场反演从单张图像中提取形状、姿态和外观

    使用神经辐射场和 GAN 相结合的方法在 3D 重建领域具有前景，但大多数现有方法忽略了准确地估计姿态，而本文提出的一种基于自然图像的端到端重建框架则能解决这一问题，使得单个图像就能恢复 3D 形状、姿态和外观，且表现良好。

    Nov, 2022