艺术家友好型可调光和可动画神经头部
通过仅有零散视频进行光照未知环境下,可用于合成人类真实照片的新视角、姿势和光照的可重光和可动画化神经化身的轻量级创建方法。该方法中的关键挑战在于分解几何、服装主体的材质和光照,而由于身体运动引起的复杂几何和阴影的变化使得问题更加困难。为了解决这个不适定问题,我们提出了新的技术来更好地建模几何和阴影变化。对于几何变化建模,我们提出了可逆变形场,有助于解决逆皮肤问题并提高几何质量。为了建模空间和时间变化的光照线索,我们提出了一种姿势感知的部位光可见性网络来估计光线遮挡。在合成和真实数据集上进行了大量实验证明,我们的方法可以重构高质量的几何并在不同的身体姿势下生成逼真的阴影。源代码和数据可在 https://wenbin-lin.github.io/RelightableAvatar-page/ 上获取。
Dec, 2023
通过融合传统模型的先验信息和新的神经辐射场模型,我们提出了一种新的混合显示 - 隐式 3D 表示方法,用于建模可动画化的 3D 人头头像。我们的方法实现了高分辨率、逼真且视角一致的动态头部外观综合,达到了与以前方法相比的最先进性能。
Sep, 2023
实时神经头像合成方法 BakedAvatar 可用于 VR/AR、远程呈现和视频游戏应用中,通过提取多层可变形网格和计算表情、姿势和视角相关的外观,将结果烘培为静态贴图以提高栅格化效率,并通过差分栅格化来优化贴图细节,从而在减少推理时间的同时生成与先进方法相当质量的合成结果。
Nov, 2023
通过基于多视角视频的学习方法,我们提出了可重光的神经网络人体模型,能够实现真实感的光照效果、外观编辑以及任意骨骼姿势控制,并在实际场景中进行了评估,展示了针对新颖人体动作的最新重光效果。
Dec, 2023
本文提出了一种新颖的 3D 组合表示方法,将离散和连续的体积表示方法相结合,结合了粗糙的网格动画代码和连续的学习场景功能,使用可区分的体积渲染来计算动态人头和上半身的新视图,并在使用仅 2D 监督时进行端到端的训练,实现了动态人头和上半身新视图综合的最新最佳结果。
Dec, 2020
从稀疏视点(甚至单眼)动态人类视频中的未知照明条件下创建可重新照明和可动画化的神经头像是该论文的主要挑战,为了解决这个问题,作者提出了一种层次化距离查询算法来近似任意人类姿势下的世界空间距离,并基于此算法开发了首个能从稀疏视点(或单眼)输入中恢复出可动画和可重新照明的神经头像的系统,实验证明该方法比现有的方法有着更优秀的结果。
Aug, 2023
本文提出了可动态变化神经辐射场 (animatable NeRF) 的方法用于从单眼视屏中创建细节丰富的人物角色,通过引入显式姿势引导变形的方式学习场景表示网络扩展神经辐射场 (NeRF) 到带有人体运动的动态场景,并展示了该方法在人物几何和外观重建、真实感渲染和动画设计等方面取得了突破性成果。
Jun, 2021
我们提出了一种从单一单目视频中学习可个性化动画的、具有几何精度、逼真性、可重新照明性并且与当前渲染系统兼容的 3D 头像人物模型的高效方法。
Oct, 2023
本文提出了一个称之为 Relighting4D 的结构化框架,通过神经网络分解人体的空间时间几何和反射属性为一组法线、遮挡、漫反射和镜面映射的神经场,进而进行基于物理的面部渲染且可自我学习。通过在真实和合成数据集上的广泛实验验证,我们的方法能够以自我监督学习的方式将人体演员的表演与其背景分离,实现无限可调的动态换背景。
Jul, 2022