GeoNeRF:利用几何先验的通用 NeRF
使用多视图输入合成新视图图像,神经辐射场(NeRF)已成为三维视觉中的热门研究课题。本文提出了一种具有一般化语义神经辐射场(GSNeRF)的方法,该方法独特地将图像语义纳入合成过程中,从而能够对未见场景生成新视图图像和相关的语义地图。我们的 GSNeRF 由两个阶段组成:语义地理推理和深度引导的视觉渲染。前者能够从场景中观察多视图图像输入,提取语义和几何特征。在后者的指导下,利用得到的图像几何信息,进行图像和语义渲染,从而提高性能。我们的实验证实了 GSNeRF 在新视图图像和语义分割合成方面优于先前的工作,并进一步验证了我们的采样策略的有效性。
Mar, 2024
Gen-NeRF 是一个算法硬件协同设计框架,可以加速可广义的 NeRF (神经辐射场) 生成新视点,从而实现实时的虚拟和增强现实体验。
Apr, 2023
MVG-NeRF 组合了传统的多视角几何算法和神经辐射场 (NeRF) 用于基于图像的三维重建。我们提出使用像素级深度和法线来引导 NeRF 优化,以提高所估计表面的质量。实验结果表明,该方法可以从图像中获取干净的三维网格,同时在新视角合成方面具有竞争力的表现。
Oct, 2022
本研究提出了一种基于神经辐射场的高保真度自由视点下人体合成的通用且高效的管道,其中利用几何引导的多视点特征整合方法和渐进式渲染管道通过提供完整的几何体积和预测的密度值来显著提高多个泛化设置下的综合性能和渲染效率。
Dec, 2021
通过使用 Geometry-enhanced NeRF (G-NeRF) 方法,在 novel view synthesis 中增强几何先验,通过几何引导的多视角合成方法和深度感知型训练,解决了多视角数据不足和单视角图像几何先验提取问题,并通过定剪方法和深度感知鉴别器进一步提高了几何品质。实验证明了我们方法在定量和定性结果上的有效性。
Apr, 2024
通过 Re-Nerfing 方法,我们在 Neural Radiance Fields 的基础上使用多阶段的方法增加场景的覆盖范围,提高新视角的几何一致性,并通过新合成的图像实现结构和极线约束的优化,对 mip-NeRF 360 数据集进行的实验证明了 Re-Nerfing 的有效性。
Dec, 2023
Generalizable NeRF 通过建立基于方差的代价体来重建几何结构并通过编码解码来生成新的视图,引入自适应代价聚合、空间 - 视图聚合和一致性感知融合等方法来改进现有方法在复杂条件下的性能。
Apr, 2024
本文提出一种新的框架来规范化在几个样本(few-shot)设置中的神经辐射场(NeRF),通过几何感知一致性正则化。该方法利用了未观察视角的渲染深度图来将稀疏的输入图像变形到未观察视角并将其作为伪地面实现 NeRF 的学习,从而在特征层面而非像素级重建损失上鼓励这种几何感知的一致性,实现 NeRF 在语义和结构层面上的规范化,同时允许建模视角依赖性辐射以考虑不同视角的颜色变化。同时,本文提出一种有效的方法来筛除错误变形的解,以及稳定训练优化的训练策略。我们展示了本文提出的模型与现有最先进的几个样本设置下的 NeRF 模型相比具有竞争优势。
Jan, 2023
NeRF-VAE 是一种 3D 场景生成模型,通过使用 NeRF 和可微分体积渲染结构,将几何结构纳入考虑,利用摊销推理,无需重新训练便能推断新型场景的结构,采用显式的 3D 渲染过程与缺乏几何结构的卷积模型形成对比,它是一种 VAE 学习一个描述辐射场的分布,并通过在潜在场景表示上加以限定。我们展示了,一旦训练完成,NeRF-VAE 能够通过很少的输入图像推断和渲染几何上一致的未曾见过的 3D 环境,而且还展示了 NeRF-VAE 泛化到分布之外的相机的能力优于卷积模型。最后,我们介绍并研究了 NeRF-VAE 解码器的基于注意力的约束机制,以提高模型性能。
Apr, 2021
提出了 GNeRF 框架,将生成对抗网络(GAN)与神经辐射场(NeRF)重建结合起来,应用于复杂场景的视角合成。该框架通过两个阶段的端到端优化,解决了较少研究的未知相机姿态外部场景问题,并在多种场景中取得了优异的效果。
Mar, 2021