Apr, 2024

利用生成扩散先验想象进行人体修复

PDF
TL;DR人体复原技术在各种与人体相关的应用中起着至关重要的作用。本研究提出了一种新颖的方法，通过构建人体感知扩散模型，利用领域特定知识来提高性能。通过预训练的身体注意模块来引导扩散模型在前景上的聚焦，解决主体和背景之间的混合问题。同时，通过无缝地结合文本提示来改善表面纹理质量和额外的服装和配饰细节。此外，引入了一个专门针对细粒度人体部位的扩散采样器，利用本地语义信息来修复肢体扭曲。最后，我们收集了一个全面的数据集，用于评估和推进人体复原领域的发展。大量实验证实了我们的方法在定量和定性方面的优越性。
发现论文，激发创造
  • 基于扩散的人体姿态和形状编辑

    人物图像中的姿势和身体形状编辑一直受到越来越多的关注。然而，当前的方法在处理大幅度编辑时往往受到数据集偏见的困扰，导致逼真度和人物身份的退化。我们提出了一种一次性方法，可以实现大幅度编辑并保留身份信息。为了实现大幅度编辑，我们使用一个 3D 人体模型进行拟合，将输入图像投影到 3D 模型上，并改变人体的姿态和形状。由于初始纹理身体模型存在由于遮挡和不准确的身体形状引起的伪影，渲染图像经历了一种基于扩散的细化过程，在这个过程中，强噪声破坏了身体结构和身份，而不充分的噪声并没有起到帮助作用。因此，我们提出了一种迭代细化方法，首先对整个身体进行弱噪声处理，然后对脸部进行细化。通过自监督学习进一步增强了真实感，通过微调文本嵌入。我们的定量和定性评估表明，我们的方法在各种数据集上优于其他现有方法。

    Jan, 2024

  • 分布对齐扩散的人体网格恢复

    通过扩散过程恢复人体网格，以解决深度模糊和自遮挡问题，并提出注入特定输入分布信息的分布对齐技术（DAT），通过简化网格恢复任务提供有用的先验知识。

    Aug, 2023

  • 图像恢复与增强的扩散模型 —— 综合调查

    图像修复是一个具有挑战性的任务，在近期，扩散模型在图像的生成上取得了显著的进展，但关于扩散模型在图像修复中的应用却鲜有综合且有启发性的研究，本文首次对基于扩散模型的图像修复方法进行全面的综述与评估，并提出了未来研究的五个潜在和具有挑战性的方向。

    Aug, 2023

  • 超人类：具有潜在结构扩散的超逼真人类生成

    通过建立大规模人体数据集 HumanVerse，结合深度学习模型和结构引导生成器，我们提出了 HyperHuman 方法，实现了生成真实自然的人体图像。

    Oct, 2023

  • 基于扩散模型的概率人体网格恢复的生成方法

    通过使用基于扩散的人体网格恢复（Diff-HMR）的生成方法框架，本文提出了一种解决从给定 2D 图像重建 3D 人体网格的问题的方法，来解决任务的固有模糊度。验证实验表明，该框架能够以概率的方式有效模拟任务的固有模糊度。

    Aug, 2023

  • 文本为基础的人类图像生成中人本先验在扩散模型中的有效应用

    该研究论文探索将人类中心先验直接整合到模型微调阶段，通过人类中心对齐损失强化文本提示中的人类相关信息，以及通过扩散过程中的比例感知和逐步约束确保语义详细性和人类结构准确性，从而提高了合成基于用户编写提示的高质量人类图像的方法。

    Mar, 2024

  • HumanNorm：高质量和逼真的 3D 人体生成的正常扩散模型学习

    通过使用法线贴图对文本到图像传播模型进行微调，使其能够适应文本到法线传播模型，从而提高对三维几何体的二维感知，同时保留从大规模数据集中学习到的先验知识，从而实现高质量和逼真的三维人体生成。

    Oct, 2023

  • 利用扩散模型作为约束：增强图像恢复网络通过扩散模型训练

    通过引入自然性导向和语义感知优化机制 DiffLoss，本文旨在改善图像恢复领域中的颜色和纹理失真问题，并提高图像的语义感知恢复能力，以实现图像恢复任务和高级识别任务的连接。

    Jun, 2024

  • 基于去噪扩散模型的人物图像合成

    使用去噪扩散模型，我们提出了一种名为 PIDM 的人体图像扩散模型，解决了复杂的转换问题，并展示了在两个大型基准测试中的显着结果，以及如何在下游任务中使用生成的图像。

    Nov, 2022

  • 可塑扩散：单图像化身创造的三维一致扩散

    本研究工作旨在通过将 3D 可变模型整合到最新的多视角一致性扩散方法中，增强生成扩散模型在创建可控、照片般逼真的人类头像任务中的质量和功能。我们的实验证明了在基于关节的 3D 模型的准确约束下，生成流水线模型在单图像的新视角合成任务上的性能改进，更重要的是，这种整合实现了面部表情和身体姿势控制在生成过程中的无缝和准确融入。据我们所知，我们提出的框架是第一个允许从未见过的单一图像创建完全 3D 一致、可动画和照片般逼真的人类头像的扩散模型；广泛的定量和定性评估证明了我们的方法在新视角和新表情合成任务上相对于现有最先进的头像创建模型的优势。

    Jan, 2024