Jun, 2024

MoDGS: 动态高斯分布从偶然捕获的单目视频

PDF
TL;DR在本文中，我们提出了 MoDGS，这是一个新的管道，可以利用仅有的随意捕捉的单目视频生成动态场景的新视角图像。MoDGS 采用了最近的单视图深度估计方法来指导动态场景的学习，并提出了一种新的三维感知初始化方法来学习合理的变形场和新的鲁棒深度损失来指导动态场景几何结构的学习。全面的实验证明，MoDGS 能够从仅有的随意捕捉的单目视频中生成高质量的动态场景新视角图像，优于基线方法的效果显著。
发现论文，激发创造
  • 运动感知的高斯点云成型在高效动态场景重建中的应用

    提出了一种新的运动感知增强框架，通过挖掘光流中的有用运动线索来改进动态场景重建，以提高不同动态 3D 高斯喷溅方式的性能，并针对基于形变的范例提出了一种瞬态感知形变辅助模块。经过广泛的实验证明，与基线相比，我们的方法在渲染质量和效率方面都表现出明显的优势。

    Mar, 2024

  • 用于非正式单目视频新视角合成的动态高斯大理石

    通过引入 DGMaebles 方法，本研究在单目视频中扩展了 Gaussian 场景表示的能力，实现了新视角渲染和准确捕捉场景元素的三维运动，同时在质量上显著优于其他高斯基准，并与非高斯表示保持效率、合成能力、可编辑性和跟踪优势的水平。

    Jun, 2024

  • 高保真单目动态场景重建的可变形三维高斯模型

    提出了一个使用可变形的 3D 高斯散射方法对动态场景进行重建和渲染，在实时渲染的速度和渲染质量方面优于现有方法。

    Sep, 2023

  • 建模环境场景动态以进行自由视角合成

    我们介绍了一种新颖的方法，可以从单目捕捉中进行动态自由视图合成，为观看体验带来沉浸感。我们的方法基于对复杂静态场景进行忠实重建的 3D 高斯点插值（3DGS）的最新进展。通过利用环境动力学的周期性来学习运动轨迹模型，并结合谨慎的正则化来克服以往将 3DGS 扩展到表示动态时遇到的局限性，这些局限性包括仅适用于有界场景或需要多摄像机捕捉，并且通常无法推广到未见过的运动，限制了它们的实际应用。我们还提出了一些重要的实用策略，以提高基线 3DGS 静态重建的视觉质量，并提高 GPU 内存密集学习的内存效率，展示了多个环境自然场景的高质量照片逼真的新视图合成，其中包含复杂的纹理和精细的结构元素。

    Jun, 2024

  • MoSca: 利用 4D 运动支架从实地视频中进行动态高斯融合

    我们介绍了 4D 动作支架（MoSca），这是一个神经信息处理系统，旨在从在野外随意捕获的单目视频重建和合成动态场景的新视图。

    May, 2024

  • 动态高斯网格：从单目视频实现一致的网格重建

    使用单个单目视频，通过引入动态高斯网格（DG-Mesh）框架，可以重建出高保真度和时态一致的网格结构，并实现动态对象的纹理编辑。

    Apr, 2024

  • 利用高斯光疙瘩从单目视频中进行自校准的 4D 新视图合成

    通过学习高保真度的 4D 高斯点云分割场景表征，自校准相机参数，以及联合优化相机参数和 3D 结构，我们的方法在 4D 新视图合成方面展现出了显著的改进。

    Jun, 2024

  • MGS-SLAM: 单目稀疏跟踪与高斯建图并带深度平滑正则化

    基于高斯喷洒的稠密视觉同时定位与建图（VSLAM）引入了一种新的框架，通过独特地将先进的稀疏视觉里程计与稠密高斯喷洒场景表示相结合，从而消除了依赖于深度图的限制并增强了跟踪的稳健性。我们的系统在各种合成和真实数据集上的评估证明了其姿态估计的准确性超越了现有方法，达到了最先进的性能，并且在新颖视角合成保真度方面胜过以前的单目方法，与利用 RGB-D 输入的神经 SLAM 系统的结果相匹配。

    May, 2024

  • 4D 高斯点绘制：用于动态场景高效新视图合成

    4D 高斯喷洒是一种在动态场景下表示动态场景的新方法，通过时间切片和投影技术实现了对复杂运动和细节的建模，并在实时渲染方面取得了显著的效果和效率优势。

    Feb, 2024

  • FSGS: 实时少样本视图合成与高斯投影插值

    提出了基于 3D 高斯喷砂的少样本视角合成方法，通过高效地合成视图实现实时和照片般逼真的视角合成，方法称为 FSGS，通过设计精巧的高斯解卷积处理稀疏初始化的 SfM 点，通过分布新的高斯函数填补空白区域中的局部细节，在高斯优化过程中整合大规模预训练的单眼深度估计器，通过在线增强视图引导几何优化达到最优解，FSGS 在包括 LLFF、Mip-NeRF360 和 Blender 在内的各种数据集上实现了最先进的性能，包括准确性和渲染效率。

    Dec, 2023