无视姿态的高斯绘制新视图合成
提出了基于3D高斯喷砂的少样本视角合成方法,通过高效地合成视图实现实时和照片般逼真的视角合成,方法称为FSGS,通过设计精巧的高斯解卷积处理稀疏初始化的SfM点,通过分布新的高斯函数填补空白区域中的局部细节,在高斯优化过程中整合大规模预训练的单眼深度估计器,通过在线增强视图引导几何优化达到最优解,FSGS在包括LLFF、Mip-NeRF360和Blender在内的各种数据集上实现了最先进的性能,包括准确性和渲染效率。
Dec, 2023
本文研究了神经渲染、相机位姿、Neural Radiance Fields、3D Gaussian Splatting以及新视角合成等主题,通过使用显式几何表示和输入视频流的连续性,实现了无需任何SfM预处理的新视角合成。该方法在大运动变化下显著改善了先前方法在视角合成和相机姿态估计方面的性能。
Dec, 2023
这篇论文介绍了GGRt,一种新颖的通用新视角合成方法,它减轻了对真实相机位姿、处理高分辨率图像的复杂性和冗长的优化过程的需要,从而促进了3D高斯喷溅(3D-GS)在实际场景中的更强适用性。
Mar, 2024
图像基于的三维重建是一项具有挑战性的任务,涉及从一组输入图像中推断出对象或场景的三维形状。基于学习的方法因其直接估计三维形状的能力而受到关注。本综述论文着重介绍了三维重建的最新技术,包括生成新颖未见视角的方法。论文提供了对高斯激波方法的最新发展的概述,包括输入类型、模型结构、输出表示和训练策略。未解决的挑战和未来的研究方向也得到了讨论。鉴于该领域的快速进展以及增强三维重建方法的众多机会,对算法进行全面的研究至关重要。因此,本研究全面概述了高斯激波最新进展。
May, 2024
通过利用3D高斯喷洒方法,我们开发了一种无需相机姿态的稀疏视图合成的新构建和优化方法,通过在构建过程中使用单目深度和将像素投影回3D世界来逐步构建解决方案,并通过检测训练视图与对应的渲染图像之间的2D对应关系,我们开发了一种统一可微的管道来完成相机注册和相机姿态与深度的调整,最后进行反投影。我们引入了高斯喷洒中预期表面的新概念,这对我们的优化至关重要。这些步骤使得我们能够获得一个粗糙的解决方案,然后可以使用标准优化方法进行低通滤波和细化。在Tanks和Temples以及Static Hikes数据集上,我们展示了仅使用三个广泛间隔的视图的结果,显示出明显优于竞争方法的质量,包括那些具有近似相机姿态信息的方法。此外,我们的结果在使用一半数据集时,随着视图数量的增加而改善,并且在使用InstantNGP和高斯喷洒算法时超过了先前的方法。
May, 2024
通过引入低成本跨视聚集、像素级三元组融合和简单有效的自由视图训练策略,我们提出了一个能够从长序列输入中重建几何一致的3D场景并实现自由视图合成的新方法FreeSplat,研究结果表明其在不同数量的输入视图下,在新视图生成的颜色贴图质量和深度图准确性方面都达到了最新水平,并且FreeSplat的推断效率更高,能够有效减少冗余的高斯函数,为无需深度先验的大场景重建提供了可能。
May, 2024
本研究解决了无运动结构的方法在处理初始相机姿态不准确时导致的对齐问题。通过引入基于对应关系的优化算法,本研究在新视图合成中取得了更好的像素对齐,从而显著提升了优化效率和时间表现。实验结果表明,该方法在性能和效率上优于现有技术。
Aug, 2024
本研究提出了一种名为Splatt3R的方法,针对从非校准的立体图像对中进行3D重建与新视角合成的挑战,消除了对相机参数和深度信息的依赖。该方法通过优化3D点云几何损失并引入新视角合成目标,从而避免了训练3D高斯喷溅时的局部最小值问题,这一创新显著提高了在自然图像中的泛化能力和性能。研究表明,Splatt3R可以以512 x 512分辨率以4FPS的速度重建场景,并实现实时渲染。
Aug, 2024
本文提出了Splatt3R,一种无姿态、前馈的方法用于野外3D重建和新视角合成,解决了从未校准自然图像中直接预测3D高斯喷溅的问题。该方法在MASt3R的基础上进行扩展,能够同时处理3D结构和外观,相比传统方法,避免了训练3D高斯喷溅时的局部最小值。实验结果表明,Splatt3R在未校准图像上的泛化性能优异,且可实现实时渲染。
Aug, 2024