Feb, 2024

Minecraft 化：为游戏应用生成具有文本引导的 Minecraft 风格图像编辑

PDF
TL;DR本研究论文介绍了一种针对 Minecraft 视频游戏的角色纹理生成系统 Minecraft-ify，它能够为 3D 虚拟立方体人物生成面向面部的图像纹理映射，提供了用户友好的人工智能工具，可以通过学习分布的逆向操作用户提供的真实图像，或者生成平均 / 随机外观，并可以通过使用 StyleGAN 和 StyleCLIP 的文本引导进行操作，从而扩展用户的自由度和使用体验。
发现论文，激发创造
  • 面部图像生成和操作的开放式文本引导实现

    该研究提出了一种统一框架来生成和处理面部图像，基于预训练的 GAN 模型，使用两种新颖的策略，直接优化潜在空间的潜在编码以获取多模式输入的图像生成和操纵，并提出了一个大型数据集 Multi-Modal CelebA-HQ。

    Apr, 2021

  • 样式生成：基于粗略匹配的图像合成

    使用粗略匹配的文本作为引导，本研究介绍了一种新颖的基于文本的风格生成方法，通过两阶段的生成对抗网络生成与细化图像风格，并通过实验证实了该方法的有效性和实际应用价值。

    Sep, 2023

  • 基于文本指导的三维人脸合成 -- 从生成到编辑

    通过文本引导的三维人脸合成，从生成到编辑的统一框架，通过解耦生成几何和纹理来提高几何细节的生成效果，并利用生成几何作为纹理生成的条件，进一步提升几何与纹理的一致性结果；通过预训练扩散模型来更新面部几何或纹理以实现顺序编辑，并引入 UV 域一致性保持正则化以防止对不相关面部属性的无意更改，并提出自导向一致性权重策略以提高编辑效果与保持一致性；通过全面实验展示了该方法在人脸合成方面的优越性。

    Dec, 2023

  • DreamCraft: 在 Minecraft 中基于文本指导生成具有功能的 3D 环境

    本文介绍了一种从自由形式文本提示中生成功能性 3D 物品的方法，该方法使用量化的神经辐射场（NeRFs）来表示这些物品，以在游戏中与给定文本描述相匹配。

    Apr, 2024

  • StyleHumanCLIP: 面向 StyleGAN-Human 的文本引导服装操纵

    本文提出了一种基于文本引导的全身人像图像合成框架，采用基于注意力机制的潜在代码映射器，实现了比现有映射器更多元化对 StyleGAN 的控制，并在推理时引入特征空间掩码机制来避免因文本输入导致的不良影响，经定量和定性评估，证明了我们的方法比现有方法更能忠实地控制生成的图像。

    May, 2023

  • 高保真文本引导的 3D 人脸生成与操作仅通过图像

    通过引入文本条件，该论文提出了一种名为 TG-3DFace 的文本引导的 3D 人脸生成方法，利用全局对比学习和细粒度对齐模块两种跨模态对齐技术，实现了更逼真和语义一致的纹理生成。

    Aug, 2023

  • TextCLIP：无对抗训练的文本指导人脸图像生成与操作

    提出了 TextCLIP，这是一个统一的框架，用于无对抗训练的文本引导的图像生成和操作，通过对 Contrastive Language-Image Pre-training (CLIP) 的文本图像表示能力和 StyleGAN 的生成能力的结合，能够生成高达 1024×1024 分辨率的图像，并在 Multi-modal CelebA-HQ 数据集上取得了优于现有最先进方法的结果。

    Sep, 2023

  • Guide3D：根据文本和图像指导创建 3D 化身

    通过结合文字和图像信息，利用扩散模型，我们开发了一种零样本的三维生成模型，能够合成高分辨率纹理网格，实现了将二维图像直接转化为三维空间的功能。

    Aug, 2023

  • TediGAN: 基于文本引导的多样化人脸图像生成和操作

    本文提出 TediGAN 框架，用于多模态图像生成和操作。该方法包括三个组件：StyleGAN 反演模块，视觉 - 语言相似度学习和实例级优化。模型可使用多模态输入生成多样化，分辨率为 1024 的高质量图像，并提出 Multi-Modal CelebA-HQ 数据集以支持文本引导的多模态综合。经过广泛实验，本方法展现出优越性能。

    Dec, 2020

  • Make-A-Character: 高质量文本转 3D 人物生成

    使用大规模语言和视觉模型构建一个名为 Make-A-Character（Mach）的用户友好框架，通过文本描述创造栩栩如生的 3D 化身，满足用户期望，并能与现有的计算机图形技术（CG）流程轻松集成。

    Dec, 2023