ICCVJul, 2023

JOTR：基于变形器的三维关节对比学习用于遮挡人体网格恢复

PDF
TL;DR本研究针对单一图像中存在遮挡时的三维人体网格恢复问题，提出了一种融合 2D 和 3D 特征的 JOTR 框架以及一种新颖的 3D 关节对比学习方法，通过增加对 3D 特征空间的显式全局监督，显著改善了遮挡人体的重建效果。
3d human mesh recoveryobscured conditions2d and 3d alignment3d joint contrastive learningoccluded humans
发现论文，激发创造
  • 几何偏置变换器用于鲁棒的多视角 3D 人体姿势重建

    通过提出一种新颖的编码器 - 解码器 Transformer 架构，结合多视角和时间信息、几何关系和 2D 姿态检测可信度，我们解决了估计多视图下遮挡和受限重叠视图的 3D 人体姿势的挑战。我们的实验表明该方法在传统三角定位方法的具有挑战性的遮挡场景和视图受限场景中表现出很好的效果。

    Dec, 2023

  • 基于 Transformer 的分离模态交叉注意力 3D 人体网格恢复

    本文研究了 Transformer Encoder 在 3D 人类网格重建上的应用。提出了一种名为 FastMETRO 的新型 Transformer Encoder-Decoder 结构，对输入标记的复杂性进行了解耦，并通过注意掩码和网格上采样操作引入人体形态学关系的先验知识来提高其收敛速度和准确性。在 Human3.6M 和 3DPW 数据集上，和基于图像的方法相比明显更有效。

    Jul, 2022

  • 使用 Transformer 进行端到端的人体姿势和网格重建

    本研究提出了一种名为 MEsh TRansfOrmer（METRO）的新方法，该方法使用变压器编码器来同时建模顶点 - 顶点和顶点 - 关节交互，并从单个图像中输出 3D 关节坐标和网格顶点，其非依赖于任何参数化网格模型，可以轻松地扩展到其他对象，如手的 3D 重建。该方法在处理局部遮挡等具有挑战性情况方面更加鲁棒和有效，在公共数据集 Human3.6M 和 3DPW 上为人类网格重建生成了最新的最先进结果。此外，我们展示了 METRO 到野外 3D 手重建的泛化能力，在 FreiHAND 数据集上性能优于现有最先进方法。

    Dec, 2020

  • 基于接触优化的转换器进行 3D 人体和物体联合重建

    该研究提出了一种利用人 - 物接触信息进行三维人体与物体联合重建的新方法 (CONTHO)，通过 3D 引导接触估计和基于接触的三维人体与物体细化，实现了更准确的重建，取得了最先进的性能。

    Apr, 2024

  • 全球相关 3D 解耦变压器用于服装化人物重建

    使用全局相关的三维解耦 Transformer 模型来从单幅图像中重建着衣人体化身，实现了在复杂姿势和宽松服装情况下的高性能几何和纹理重建。

    Sep, 2023

  • 多人网格恢复与 Transformers

    通过一种面向整体图像的方法，我们提出了一种新的模型设计，其中包括多尺度特征融合、关注机制和相对关节监督，该模型在涉及多个人的各种基准测试中显示出显著的性能提升，超过了最先进的基于区域和基于整体图像的方法。

    Feb, 2024

  • 一个轻量级的图变换网络用于从 2D 人体姿势重建人体网格

    本文提出了一种基于姿势的轻量级方法 GTRS，它可以从 2D 人类姿态重构人类网格。该方法利用图变换器来提取结构化和隐式的关节相关性以及网格模板来重构人类网格，从而大大提高了模型的效率和泛化性能。在 Human3.6M 和 3DPW 数据集上进行广泛的评估，GTRS 方法在仅使用 10.2％ 的参数和 2.5％ 的 FLOPs 的同时，比 SOTA 基于姿态的 Pose2Mesh 方法实现了更好的准确性。

    Nov, 2021

  • 遮挡人体网格恢复

    本文提出了一种顶部下降的网格恢复方法（OCHMR），该方法利用图像空间上下文来克服单人假设的局限性，并通过 Contextual Normalization 块适应性地调节顶部下降模型的中间特征，这使得模型能够在多人遮挡的情况下区分出严重重叠的人边框，从而获得了优于其他方法的表现。

    Mar, 2022

  • PostoMETRO：姿态标记增强的网格变压器用于稳健的 3D 人体网格恢复

    通过整合鲁棒性 2D 姿态表示，PostoMETRO（Pose token enhanced Mesh TRANSformer）在变压器模型中以令牌方式恢复 3D 坐标，从而提高单张图像人体网格恢复的性能，尤其在遮挡等极端场景下的准确性和清晰度。

    Mar, 2024

  • 学习三维场景中的人体网格恢复

    提出了一种新方法，通过使用稀疏的 3D CNN 估计场景的绝对位置和密集的场景接触，并通过与其相关的 3D 场景线索的交互关注来加强预训练的人类 mesh 回收网络的关节学习，进而提高每个正向遍历的准确性和速度。

    Jun, 2023