神经渲染技术进展
本文是对神经渲染发展趋势和应用的一篇最新综述,该技术结合了计算机图形学和深度生成模型,以生成可控、逼真的输出,包括新视图综合、语义照片操纵、人脸和身体再现、重新照明、自由视角视频以及用于虚拟和增强现实遥感的逼真头像的创建等方面。我们还讨论了这种技术的社会影响和未来研究方向。
Apr, 2020
神经渲染是一种基于深度学习的新型图像和视频生成方法,将深度学习模型与计算机图形学的物理知识相结合,以获得可控和逼真的场景模型,并实现对光照、相机参数、姿态等场景属性的控制。本文回顾了神经渲染的技术内涵、主要挑战和研究进展,在此基础上分析了神经渲染流程对硬件加速的常见需求和当前硬件加速架构的特点,并讨论了神经渲染处理器架构的设计挑战,最后展望了神经渲染处理器架构的未来发展趋势。
Jan, 2024
通过引入 Deferred Neural Rendering 和 Neural Textures,本文提出一种新的渲染模型,可以快速准确地合成出高质量的视觉效果,即使输入的 3D 内容不完整嘈杂,同时可以在多个应用领域内进行使用,例如在新颖的视角合成,场景编辑和面部复制等方面。
Apr, 2019
本研究通过对旅游地标的网络照片进行传统 3D 重建,将场景逼近为一个点云,并在每张照片上进行重新渲染。使用神经网络学习初始渲染到实际照片的映射,还考虑到短暂物体的位置以进行场景修正。通过多个公共数据集的评估,展示了场景外观和语义标签的真实操作。与之前的场景重建工作进行了比较。
Apr, 2019
该论文提出了一种从图像中直接学习神经场景表示的框架,通过引入一种强制要求该场景表示对于 3D 变换等变的损失函数,使得我们可以实时推断和渲染场景,并在标准 ShapeNet 基准测试上获得了很好的结果。
Jun, 2020
该论文提出了一种新的神经渲染方法,能够将动态环境分解成场景图,通过隐式编码学习场景的变换和辐射度,并能够渲染未见过的物体、位置的各种动态场景,达到了高度逼真的效果。
Nov, 2020
我们提出了一种基于学习的图像引导渲染技术,结合了基于图像的渲染和基于 GAN 的图像合成的优点,旨在生成虚拟和增强现实应用程序的重建对象的逼真重新渲染,一个我们工作的核心组件是处理视点相关效应,我们在方案中直接训练一种特定于对象的深度神经网络合成对象的视点相关外观。
Nov, 2018
我们提出了一种逼真的实时小说视角综合(NVS)大场景的新方法,通过将中等质量的脚手架网格作为输入,学习神经纹理场和着色器以增强逼真感,同时使用标准图形管道进行实时渲染,我们的方法在大型自动驾驶和无人机场景中提供至少 30 倍更快的渲染速度与可比或更好的逼真度,我们的工作是首次实现大型真实世界场景的实时渲染。
Nov, 2023
本研究介绍了一个大规模的合成数据集,该数据集包括来自 4.5k 个室内场景的 40 万张基于物理的渲染图像,研究了不同的渲染方法和场景照明对深度学习算法在表面法线预测、语义分割和物体边界检测三个计算机视觉任务中的影响,并表明,使用这个新的合成数据集进行预训练可以提高所有三个任务的结果。
Dec, 2016
本文提出了一种综合的神经方法,用于从密集的多视角视频中重建、压缩和渲染人类表演。该方法桥接了传统的动画网格工作流和一类高效的神经技术,其中包括神经表面重构器和混合神经跟踪器,并实现了各种带宽设置下的从动态纹理到光图渲染的渲染方案,展示了其在各种网格应用和各种平台的逼真自由视点体验中的有效性。
Sep, 2022