Mar, 2024

SAID-NeRF：透明物体的分割辅助 NeRF 深度补全

PDF
TL;DR使用 Visual Foundation Models（VFMs）以零样本、无标签的方式，通过同时重建语义场和增强模型来指导 NeRF 重建过程，从而获取透明物体的准确深度信息。我们的方法 SAID-NeRF 在透明物体深度完成数据集和机器人抓取方面展现了显著的性能。
depth informationtransparent objectsneural radiance fieldsvisual foundation modelssaid-nerf
发现论文，激发创造
  • 从航空影像进行深度监督的神经表面重建

    通过将深度先验与 Neural Radiance Fields（NeRFs）相结合，我们调查了 NeRFs 在航空图像块表示不同特征的能力，并将其与公开可用的航空图像基准数据集的结果进行了比较。

    Apr, 2024

  • 深度监督下的 NeRF：更少的视角和更快的训练

    通过引入深度监督机制，结合 SFM（结构光运动）得到的 “自由” 深度监督信息，在学习 Radiance Fields 的过程中对射线的结束点进行分布的损失函数，并且证明这种监督方式简单有效，可以使得渲染图像更加精准，支持其它类型的深度监督。

    Jul, 2021

  • Residual-NeRF: 学习透明物体操作的残差 NeRFs

    通过提出一种名为 Residual-NeRF 的方法，能够改善不透明物体的深度感知和训练速度，该方法通过学习场景的背景 NeRF 并结合背景和残差 NeRFs 进行推断，提供了综合性和真实性实验证明 Residual-NeRF 能够改善透明物体的深度感知。

    May, 2024

  • OR-NeRF：由多视角分割指导的神经辐射场，用于删除 3D 场景中的对象

    本文提出了一种名为 OR-NeRF 的新型对象移除流水线，它可以在单个视图上通过点或文本提示从 3D 场景中移除对象，并在更短的时间内实现更好的性能。

    May, 2023

  • Dex-NeRF：使用神经辐射场感知透明物体

    利用神经光辐射场技术检测、定位并推断透明物体的几何形状，结合光源的设置和透射率感知的深度渲染，实现了透明物体的稳定夹取，其成功率分别达到了 90% 和 100%。

    Oct, 2021

  • Open-NeRF：面向开放词汇的 NeRF 分解

    该研究关注解决从开放词汇中将神经辐射场（NeRF）分解为对象的挑战，这对于三维重建和视图合成中的对象操作是至关重要的。我们提出了 Open-NeRF，利用大规模、现成的分割模型，如 Segment Anything Model（SAM），并引入了一种集成和蒸馏范式，通过层次嵌入来既实现开放词汇查询的灵活性，又保持三维分割的准确性。Open-NeRF 首先利用大规模的基础模型根据不同视角生成分层的二维掩模提案，然后通过跟踪方法对这些提案进行对齐，并在三维空间中进行集成，最后蒸馏为三维场。该过程确保了不同视角下的对象一致识别和细粒度，即使在涉及遮挡和模糊特征的挑战性场景中也是如此。实验结果表明，Open-NeRF 在开放词汇的场景中胜过了 LERF 和 FFD 等最先进的方法。Open-NeRF 为 NeRF 分解提供了一个有前途的解决方案，通过开放词汇查询引导，能够在开放世界的三维场景中实现新的机器人和视觉语言交互应用。

    Oct, 2023

  • Obj-NeRF: 从多视图图像中提取物体 NeRF

    本研究提出了 Obj-NeRF，一种综合管道，通过使用一个单一的提示从多视图图像中恢复特定对象的 3D 几何形状。该方法结合了 Segment Anything Model（SAM）的 2D 分割能力和 NeRF 的 3D 重建能力，并应用了几种有效技术。此外，研究还构建了一个包含多样化对象的大规模对象级 NeRF 数据集，可在各种下游任务中发挥作用。为了证明我们的方法的实用性，我们还将 Obj-NeRF 应用于包括对象去除、旋转、替换和重新上色在内的各种应用。

    Nov, 2023

  • SANeRF-HQ：高质量采样对于 NeRF 中的任何分割

    本研究介绍了 Segment Anything for NeRF in High Quality (SANeRF-HQ) 方法，通过结合 Segment Anything Model (SAM) 和 Neural Radiance Fields (NeRF) 实现了高质量的给定场景中任意对象的三维分割，提高了分割边界的准确性，优于当前 NeRF 对象分割的最新方法，并具备更高的对象定位灵活性和多视图的一致对象分割。

    Dec, 2023

  • DäRF：使用单目深度自适应从稀疏输入中提升辐射场

    提出一种名为 D"aRF 的新框架，通过在线互补训练将 monocular depth estimation （MDE）网络的强大几何学优势与 Neural radiance fields（NeRF）表示相结合，通过缓解单眼深度的歧义问题来提高其鲁棒性和一致性，在少量真实世界图像情况下实现了强大的 3D 重建和新视角综合，成功解决了现有方法在不同类型场景或数据集上的局限性。

    May, 2023

  • 透明和镜面对象的神经折射 - 反射场中的 3D 重建和视图合成

    本文介绍了一种新的方法，即折射 - 反射场，用于解决透明和镜面对象合成中的光线路径复杂性问题，并提出了一种虚拟锥超采样技术实现高效且有效的抗锯齿。通过在真实世界和合成数据集上进行测试，并对各种编辑应用进行定量和定性评估，包括材料编辑、对象替换 / 插入和环境照明估计，我们对该方法进行了基准测试。

    Sep, 2023