协同回归使用调节表达身体
本研究提出了通过单目图像计算实现人体姿态、手部姿态和面部表情三维模型的方法,主要使用了一个新的、一致的、包含完全表达手和面部表情的人体模型 SMPL-X,可以对受控图像和自然环境图片进行三维模型匹配。
Apr, 2019
这篇论文提出了一种名为 OSX 的一阶段人体网格恢复技术,通过使用全局体编码器和本地面部 / 手部解码器组成的组件感知变压器(CAT),预测身体参数并提供高质量的特征图为解码器进行特征级上采样 - 裁剪方案,从而提取高分辨率的部分特定特征,并采用关键点引导的可变形注意力精确估计手部和面部。该技术简单而有效,没有任何手动后处理,并自然地避免了不合理的预测。同时,该论文还构建了一个大规模的上半身数据集(UBody),包含在不同真实场景下出现的在部分可见身体上的人,以弥合基础任务与下游应用之间的差距。
Mar, 2023
我们提出了一个新的框架来增强全身姿势和形状估计的鲁棒性,其中包括三个模块以从三个角度解决上述挑战:1)定位模块,2)对比特征提取模块,3)像素对齐模块,并通过全面实验证明了该框架在身体、手、脸和全身基准测试上的有效性。
Dec, 2023
AvatarReX 是一种新的方法,通过学习基于 NeRF 的全身化身构建,提供可表达身体、手和脸部的控制,同时支持实时动画和渲染;采用合成的化身表示方式,将身体、手和脸部分别建模,并解耦几何和外观,进而实现了针对 DSLR 图像的渲染流程,从而合成高质量的自由视角图像。
May, 2023
提出了一种新的参数化模型 SMPLX-Lite-D,可以适应扫描网格的详细几何结构,同时保持脸部、手部和脚部区域的稳定几何结构。利用 SMPLX-Lite 数据集,训练了一个条件变分自编码器模型,以人体姿势和面部关键点作为输入,生成逼真的可驾驶人体化身。
May, 2024
提出了一种新的一体化框架 AiOS,用于多种表达性人体姿势和形状恢复,无需额外的人体检测步骤,通过 DETR 处理多人全身网格恢复任务,将其作为渐进集预测问题,通过解码器令牌和扩展实现对整个人体网格的回归,在 AGORA 上,NMVE 的减少率为 9%,EHF 上的 PVE 减少率为 30%,ARCTIC 上的 PVE 减少率为 10%,EgoBody 上的 PVE 减少率为 3%。
Mar, 2024
该论文介绍了一种名为 GEA 的新方法,基于 3D 高斯模型,创建具有高保真度的身体和手部重建,提出了两个关键贡献:一是通过两阶段姿势估计方法从输入图像中获取准确的 SMPL-X 姿势,提供训练图像像素与 SMPL-X 模型之间的正确映射;二是提出了迭代初始化策略来处理高斯表示面临的不平衡聚合和初始化偏差问题,通过网格化、重采样和重新高斯化等操作将 avatar 的高斯点均匀分布在人体表面附近,实现了更高质量的渲染,验证了所提模型的有效性,展示了其在照片逼真的新视图合成和对人体姿势的细致控制方面达到了最先进的性能。
Feb, 2024
通过采集互联网上的时尚模特图片和一小部分人体测量数据,以及用于各种三维身体网格的语言形状属性,我们训练了一种名为 SHAPY 的神经网络,该模型可从 RGB 图像中回归出三维人物的姿态以及形状。在新的 HBW 数据集上进行测试,SHAPY 在三维人体形状估计任务上表现出色,明显优于现有技术。
Jun, 2022
从 AR / VR 设备中估计 3D 全身化身对于创建 AR / VR 应用程序中的沉浸式体验至关重要。本文提出了一种分层方法,将传统的全身化身重建流程解耦为两个阶段,首先重建上半身,然后在先前阶段的基础上重建下半身。通过潜在扩散模型作为强大的概率生成器,并训练其遵循由 VQ-VAE 编码器 - 解码器模型探索的解耦动作的潜在分布,我们在 AMASS mocap 数据集上进行的广泛实验证明了我们在全身动作重建方面的最先进性能。
May, 2024