EndoSurf: 基于立体内窥镜视频的形变组织神经表面重建
通过采用神经辐射场(NeRF)方法,我们展示了一种能够学习时间上动态且可变形的三维场景的方法,并能适应各种不同相机和场景设置的鲁棒性模型,该模型消除了已知相机姿态的限制,并克服了目前静态场景重构技术中依赖场景静态部分进行精准重构的缺点,为当前和未来的机器人外科手术系统提供了潜力。
Sep, 2023
应用高斯喷洒方法进行可变形内窥镜组织重构,采用变形场处理动态场景、深度引导监督优化三维目标并使用时空权重掩模减轻工具遮挡,从单视角视频、估计的深度图和标记的工具掩模中重建和呈现高质量的可变形内窥镜组织。
Jan, 2024
通过使用 3D 高斯泼洒方法,我们引入了实时外科手术场景重建框架 EndoGaussian,能够在现实时间内实现手术场景的重建,实现了很大的渲染加速,同时在保持最新的重建质量和最快的训练速度方面表现出显著的优势。
Jan, 2024
通过利用深度、表面法线和 RGB 损失来改善重建保真度和优化时间的缺乏多视图线索的非刚性表面的高保真度三维建模的无模型神经隐式表面重建方法 DynamicSurf。
Nov, 2023
通过将 NeuS 应用于内窥镜图像并辅以单帧深度图,我们在结肠切片重建方面引入了一种新的方法,该方法解决了单目结肠镜图像重建中的组织纹理表示不足和尺度混淆问题,通过严格的实验证明了其在渲染结肠切片方面的异常精确性,为稳定和一致缩放重建打开了新的途径,为癌症筛查和治疗干预提供了更好的质量。
Apr, 2024
我们提出了一种新的方法来从单眼内窥镜获取的图像序列中进行三维重建。该方法基于两个关键观点:内腔是密封的,可以通过使用符号距离函数来建模;场景照明是变化的,来自内窥镜的光源并随着到表面的距离的平方反比而衰减。通过修改 NeuS 架构以考虑亮度和深度之间的关系,并引入经过校准的内窥镜相机和光源的光度模型,我们的方法是第一个在整个结肠部分产生密封重建的方法。我们在幻影影像上展示了出色的准确性。密封先验结合照明衰减的显著性使得我们能够以可接受的准确性完成未见过表面的重建,为癌症筛查探测的自动质量评估、测量观察到的黏膜的全局百分比铺平了道路。
Sep, 2023
本文提出了 GradientSurf,这是一种从单目 RGB 视频中实时重建表面的新算法。该方法通过渐变域中的表面、体积和定向点云之间的紧密耦合解决重建问题,利用神经网络增量式地从部分扫描中在线找到 Poisson 层的解,以监督局部和全局重建。与离线求解 Poisson 方程的 Poisson Surface Reconstruction 不同,现有方法在从 RGB 信号重建时缺乏细节,本文通过在梯度域中对零阶和一阶能量进行最小化,解决了这个问题。在室内场景重建的任务中,视觉和定量实验结果表明,该方法在曲线区域重建的细节更多,对小物体的保真度更高。
Oct, 2023
在机器人辅助微创手术领域,动态场景重建可以显著提高下游任务和改善手术结果。我们提出了一种创新的实时内窥镜动态重建方法 Endo-4DGS,使用了 4D 高斯飞溅和无需地面真实深度数据。该方法通过引入时间组件,借助轻量级 MLP 捕捉时间高斯变形,有效实现了具有可变条件的动态手术场景的重建。我们还整合了 Depth-Anything,从单目视图中生成伪深度图,增强了深度引导重建过程。我们的方法在两个手术数据集上通过验证,证明了实时渲染、高效计算和重建准确性,彰显了 Endo-4DGS 改善手术辅助的巨大潜力。
Jan, 2024
本研究介绍了一种新方法 EndoGaussians,利用高斯散射进行动态内窥镜 3D 重建,克服了现有技术的局限性,为医学专业人员提供更可靠高效的 3D 重建用于医学应用。
Jan, 2024
本文探讨了在没有对应关系的情况下,如何从 3D 点云序列中重构出时间连贯的表面。为了解决这个具有挑战性的任务,我们提出了 DynoSurf,这是一个融合可学习变形场和模板表面表示的无监督学习框架。具体而言,我们设计了一种基于可变形四面体表示的粗到细的学习模板表面的策略。此外,我们提出了一种基于可学习控制点和混合权重的可变形表示,可以在保持局部形状一致性的同时非刚性地变形模板表面。实验结果表明,DynoSurf 相对于当前最先进的方法具有显著的优势,展示了其作为动态网格重构强大工具的潜力。该代码可以公开获取于此链接。
Mar, 2024