从动态摄像头中学习人类动态学
通过观察人类运动的视觉序列,我们可以轻松猜测人在过去和未来的3D运动。我们提出了一个可以学习人类3D动力学表示的框架,通过简单而有效的图像特征时间编码。在测试过程中,学习到的时空表示能够预测具有平稳性的3D网格。我们的模型可以从单个图像中恢复当前的3D网格以及它未来和过去的3D运动,同时也可以通过半监督学习从带有2D姿态标注的自然视频中学习。我们通过对来自互联网海量未标记数据的模型训练,通过已有的2D姿态检测器得到伪基础真值2D姿态,证明了我们的模型可以自举学习并在三维动作预测任务中获得最新的性能。
Dec, 2018
本文提出了一种从单个RGB视频自动重建与对象的人交互的3D运动的方法,估计人和物体的3D姿势,接触位置,被人类肢体激活的力和扭矩,方法主要集中在联合估计运动和动作力,运用大规模的轨迹优化问题,并且从输入视频自动识别出人与物体或地面之间的接触位置和时间,于真实数据集上验证了方法并展示了它在新的互联网视频数据集中的性能。
Apr, 2019
本文介绍了一种基于物理模型的方法,用于从视频中推断3D人体运动,该方法利用初始的2D和3D姿态估计作为输入,并通过物理轨迹优化得出一个符合物理规律的运动。实验结果显示,相较于纯运动学方法,该方法能够显著地提高动作的真实性和准确性。
Jul, 2020
介绍了一种新的可训练系统,用于物理上合理的无标记3D人体运动捕捉,称之为physionical,该系统在多种具有挑战性的场景下实现了最新技术的结果,其输入为2D关节关键点,能够在交互帧速率中生成平滑而物理明确的3D动作。
May, 2021
通过单眼RGB视频直接训练具有物理可行性的人体运动的生成模型,该方法通过可微分的方式实现了物理约束和接触关系优化,并实现了与之前基于姿态识别的方法相比更高质量、更真实、更多样化的运动合成与估计。
Sep, 2021
该研究提出了一种运动姿势和形状网络(MPS-Net)来有效地捕捉视频中的运动并从中估计准确的和时间连续的三维人体姿态和形状。MPS-Net利用运动连续性注意力(MoCA)模块和分层注意特征融合(HAFI)模块以提高运动姿势的精度并使用更少的网络参数。
Mar, 2022
本研究利用物理引擎对姿态估计过程进行改进,从而使得我们可以利用现实世界的场景推导出物体的运动。我们的公式具有广泛的应用场景,并可处理自身接触和与场景几何之间的接触。我们的方法在 Human3.6M 和 AIST 基准测试中均获得了与现有基于物理的方法相竞争的结果,同时不需要重新训练。
May, 2022
该研究介绍了一种使用稀疏惯性传感器的新型人体姿势估计方法,该方法通过利用来自不同骨骼格式的多样的真实惯性运动捕捉数据,改进了以往依赖合成数据方法的缺点,包括两个创新组件:基于伪速度回归模型的惯性传感器动态运动捕捉和将身体和传感器数据分为三个区域的基于部件的模型,每个区域都专注于其独特的特征。该方法在五个公共数据集上表现出优越的性能,特别是在DIP-IMU数据集上将姿势误差减少了19%,从而实现了惯性传感器人体姿势估计的重要改进。我们将公开实现我们的模型供公众使用。
Dec, 2023
本研究针对单目视频中的人体运动捕捉技术中常见的时间伪影和运动不平滑等问题,提出了一种新颖的方法,通过结合物理模型与运动学观察,实现动态估计。研究表明,这种在线平衡运动学输入与模拟运动的控制循环方法,提高了人体姿态的物理合理性和全局运动轨迹的准确性。
Oct, 2024