Aug, 2019

基于插值可微渲染器的三维物体预测学习

PDF
TL;DR本文提出了 DIB-R，一种可微的渲染框架，使得基于梯度的机器学习技术可以对图像中的所有像素进行分析计算，在单幅图像的 3D 对象预测和 3D 纹理对象生成中得到应用。
machine learningrenderingdifferentiable renderingoptimization3d object prediction
发现论文，激发创造
  • DIB-R++：混合可微分渲染器的光照和材质预测学习

    该论文提出了一种混合不同 iable 引擎，它支持光照和材质等照片级别的效果，甚至可以处理一些 “非兰伯特” 和 “高光” 等效果。拥有优秀的性能并且不需要任何地面真实数据，可以从单个图像中实现几何、反射和光照预测。

    Oct, 2021

  • 基于图像的三维推理差分渲染器

    本文提出了一种新的可微分渲染框架，可以使用可微分函数直接渲染彩色网格，并能够从各种图像表示形式中向网格顶点及其属性反馈高效监督信号，并通过实验，证明提出的渲染器可以在三维无监督单视图重建方面实现显著改善，并能够处理基于图像的形状拟合等具有挑战性的任务。

    Apr, 2019

  • 可微体渲染：在没有 3D 监督的情况下学习隐式 3D 表示

    提出了一种不同 iable 渲染方法以从 RGB 图像中直接学习暗示形状和纹理表示形式的三维重建，其可以用于多视角 3D 重建并产生完美的网格结果。

    Dec, 2019

  • 代数曲面近似可微渲染

    本文提出一种称为 “Fuzzy Metaballs” 的紧凑且可解释的表示形式的近似可微渲染器，该渲染器主要通过深度图和轮廓渲染形状，相对于网格的可微渲染器，我们的方法具有更高的效率和质量，可用于解决视觉任务，评估中我们发现，我们的方法是唯一可以与传统技术媲美的，适用于姿态估计和轮廓重建。

    Jul, 2022

  • 可微分渲染：面向无监督单视角网格重建

    本文提出了一种基于 contour 的非参数、真正可微分的 soft rasterizer，使得可以从单张图片进行高质量 3D 网格重建的无监督学习成为可能，且相比其他无监督方法表现出了极大的优势。同时，我们还展示了在各种实际情况下，我们的 soft rasterizer 能够获得与最前沿的有监督学习方法可比甚至更好的结果。

    Jan, 2019

  • 逆向图形生成对抗网络：从非结构化 2D 数据生成 3D 形状的学习

    本文提出了一种使用通用的不可微分渲染器训练来自 2D 数据的 3D 生成模型的可扩展方法，该方法引入了一个代理神经渲染器来匹配不可微分渲染器的输出。我们进一步提出鉴别器输出匹配以确保神经渲染器学习适当地平滑栅格化。当用纯 2D 图像进行训练时，我们的模型可以比现有模型更好地学习生成更好的 3D 形状。

    Feb, 2020

  • 基于可微分渲染的图像 GAN 逆向图形学和可解释的 3D 神经渲染

    本文利用可微分渲染器提取并分离生成模型中的 3D 知识，将生成对抗网络作为多视图数据生成器，使用现成的可微分渲染器训练逆向图形网络，并将训练好的逆向图形网络作为教师，将 GAN 的潜在向量分离为可解释的 3D 属性。我们的方法在现有数据集上对最先进的逆向图形网络进行定量和用户研究，并显示分离的 GAN 作为可控的 3D “神经渲染器”，补充传统的图形渲染器。

    Oct, 2020

  • Pix2Vex：使用平滑可微分渲染器进行图像到几何重建

    本文介绍了 Pix2Vex, 一种利用神经网络将图像转换为 3D 几何形状的方法，通过差异可导渲染器和图像翻译组件使网络能够训练不同类型的图像，其中渲染器平滑连续且无割裂。

    Mar, 2019

  • IBRNet: 学习多视角基于图像渲染

    通过绘制多种源视图来渲染高分辨率成像，并利用神经网路的视角插值，在新颖场景中综合新视角。

    Feb, 2021

  • 自监督的单目可微渲染用于 3D 物体检测

    本研究提出了一种基于自监督的方法，利用强形状先验和二维实例掩模来重建带纹理的三维物体并进行姿态估计，通过可微分渲染和先前预训练的单目深度估计网络推断图像中每个物体的三维位置和网格信息，实验结果表明本方法有效地利用嘈杂的单目深度和可微分渲染来代替昂贵的 3D 地面真值标签或激光雷达信息。

    Sep, 2020