May, 2024

Aerial-NeRF：大规模航空渲染的自适应空间划分和采样

PDF
TL;DR基于 Neural Radiance Fields (NeRF) 的大规模航拍渲染模型 Aerial-NeRF 在适应不同飞行轨迹、提高渲染性能和覆盖整个建筑物等方面进行了三项创新性的改进，通过广泛实验证明了 Aerial-NeRF 的有效性和高效性，并在两个公开的大规模航拍数据集以及 SCUTic 数据集上取得了新的最先进结果，相比其他竞争者，我们的模型能够以 4 倍的速度进行渲染。
neural radiance fieldslarge-scale aerial renderingadaptive spatial partitioningrendering performance improvementscutic dataset
发现论文，激发创造
  • BirdNeRF：用于大规模场景的快速神经重构航空影像

    针对大规模场景重构的问题，我们引入了 BirdNeRF，这是 Neural Radiance Fields（NeRF）的一种适应型设计，专门用于利用航拍图像进行场景重构。与以前的研究集中在小规模和以物体为中心的 NeRF 重建不同，我们的方法解决了多个挑战，包括：(1) 解决了大型模型训练和渲染速度慢的问题；(2) 满足了对建模大量图像的计算需求，需要高性能 GPU 等大量资源；(3) 克服了由于模型容量有限而导致的大规模重建任务中常见的显著伪影和低视觉保真度问题。具体而言，我们提出了一种基于鸟瞰姿态的空间分解算法，将大型航拍图像集分解为多个具有适当重叠的小集合，使我们能够训练子场景的独立 NeRFs。该分解方法不仅将渲染时间与场景大小解耦，还使得渲染能够无缝地扩展到任意大的环境中。此外，它允许对环境进行块级别的更新，提高了重建过程的灵活性和适应性。此外，我们提出了一种投影引导的新视角重新渲染策略，有助于有效利用独立训练的子场景生成优秀的渲染结果。我们在现有数据集以及我们自己的无人机拍摄素材上对我们的方法进行了评估，在单个 GPU 上提高了 10 倍于经典的摄影测量软件和 50 倍于最先进的大规模 NeRF 解决方案的重建速度，并具有类似的渲染质量。

    Feb, 2024

  • Mega-NeRF：构建大规模 NeRF 以用于虚拟飞行

    利用神经辐射场（NeRFs）建立大规模的高楼或多个城市街区跨度的交互式 3D 环境，研究通过分析可见性统计信息，提出特殊化参数不同区域的稀疏网络结构、基于几何聚类的数据并行算法，并对 NeRF 快速渲染程序提出了新方法，有效解决了训练速度和渲染速度等多项挑战。

    Dec, 2021

  • Drone-NeRF：大规模无人机勘测的高效 NeRF 基于的三维场景重建

    我们提出了 Drone-NeRF 框架，通过使用神经辐射场（NeRF）来增强适用于无人机倾斜摄影的无界大规模场景的高效重建，将场景根据摄像机位置和深度可见性划分为均匀的子块，在 NeRF 的并行训练中训练子场景，然后合并为完整场景，通过优化相机姿态和引导 NeRF 使用均匀采样器来完善模型，集成选择的样本提高准确性，哈希编码融合 MLP 加速密度表示，生成 RGB 和深度输出，该框架解决了与场景复杂性、渲染效率和无人机获取图像准确性相关的挑战，展示了有前景的能力。

    Aug, 2023

  • 自适应多 NeRF：利用自适应多尺度神经辐射场渲染中的高效并行性

    通过将场景自适应地细分为轴对齐的包围盒，并使用树层次结构方法将较小的 NeRF 分配给不同大小的子空间，该论文提出了一种有效的适应性多 NeRF 方法，以加速针对复杂场景的神经渲染过程，以实现对特定场景部分的精细神经表示。

    Oct, 2023

  • 多层平面引导的少样本空中景观渲染

    在这项研究中，我们介绍了一种专为少量航拍场景渲染量身定制的新方法，即多平面先验引导的神经辐射场模型（MPNeRF）。我们的关键洞察是航拍图像固有的几何规律可以加强稀疏航拍场景的神经辐射场模型。通过研究神经辐射场模型和多平面图像的行为，我们提出使用多平面先验指导神经辐射场模型的训练过程。通过引入 SwinV2 Transformer 和使用 SimMIM 进行预训练，我们的实验结果表明，MPNeRF 在非航拍环境中的性能超过了现有的最先进方法，即使只有三个视图可用，也可以将 SSIM 和 LPIPS 的性能提升三倍。希望我们的工作能为航拍场景中基于神经辐射场模型的应用开发提供启示。

    Jun, 2024

  • 大规模航拍图像中的神经辐射场（NeRF）实现 —— 多切分方法和 NeRF 的几何评估

    通过增加位置特定的采样技术和多镜头分块策略，我们在大规模航拍数据集上扩展了 Neural Radiance Fields (NeRF) 模型，并对 NeRF 的几何特性进行了全面评估。我们的方法 Mip-NeRF 在几何性能上相较于传统方法具有更好的完整性和物体细节，但目前仍然在准确度方面存在不足。

    Oct, 2023

  • AG-NeRF：用于多高度大规模室外场景渲染的注意力引导神经辐射场

    提出了一种名为 AG-NeRF 的端到端框架，通过合成根据不同高度的场景生成自由视角图像，从而降低构建良好重建模型的训练成本，并通过源图像选择方法和基于注意力的特征融合方法来解决从低高度到高高度的细节变化问题，实验证明 AG-NeRF 在多个评估基准上达到了 SOTA 水平，并且仅需半小时的训练时间与最新的 BungeeNeRF 相比便可达到竞争性的峰值信噪比。

    Apr, 2024

  • EfficientNeRF: 高效神经辐射场

    本文提出 EfficientNeRF，一种高效的基于 NeRF 的方法，用于表示 3D 场景和合成新视图图像。通过在粗略和精细阶段分别提出有效的和关键的采样方法，以显著提高采样效率。同时，设计一种新的数据结构来加速整个场景的缓存以加速渲染速度。结果表明，本方法可以缩短 88% 以上的训练时间，实现超过 200 FPS 的渲染速度，而仍保持竞争力的准确性，从而促进 NeRF 在现实世界中的实际应用和推广。

    Jun, 2022

  • 大城市场景的网格引导神经辐射场

    该研究提出了一个新的框架用于实现对大型城市场景的高保真渲染，该框架运用了一种简化的多分辨率地面特征平面表示来捕捉场景，并通过另一个 NeRF 分支的位置编码输入进行补充，以联合学习的方式进行渲染。

    Mar, 2023

  • DroNeRF：多智能体实时无人机姿态优化计算神经辐射场

    本文介绍了一种新型的优化算法 DroNeRF，用于通过少量图像实现单目相机无人机在物体周围自主定位，实现实时三维重建。文章使用 Neural Radiance Fields 或 NeRF，以只依赖于物体几何学而不使用任何外部定位系统的方式计算单个无人机的最佳姿态，并评估了生成的新视图的质量，表现出更好的感知度。

    Mar, 2023