May, 2024

RATLIP: 基于递归仿射变换的生成对抗网络 CLIP 文本到图像合成

PDF
TL;DR通过使用条件仿射变换以及在循环神经网络之间引入随机注意力机制，结合强大的预训练模型 Clip，本研究提出了一种高质量逼真图像的生成模型，有效提升了图像与文本描述之间的一致性和综合图像的丰富度。
generative adversarial networksconditional affine transformationsrecurrent neural networkshuffle attentionpre-trained model
发现论文，激发创造
  • GALIP: 文本到图像生成的生成对抗 CLIPs

    使用 CLIP 模型作为生成对抗网络中的鉴别器和生成器，我们提出 Generative Adversarial CLIPs（GALIP），以实现高质量、高效、快速且可控的文本到图像合成，同时减少训练数据和可学习参数。

    Jan, 2023

  • CgT-GAN：基于 CLIP 引导的文本 GAN 用于图像字幕生成

    提出了一个 CLIP 引导的文本生成对抗网络 (CgT-GAN) 模型，通过引入图像数据进行训练，结合语义指导奖励 (CLIP-based reward) 和生成文本的自然度奖励来生成与外部语料库相似的文字。在实验证明，CgT-GAN 在各项指标上明显优于现有的最先进方法。

    Aug, 2023

  • 生成对抗文本到图像的合成

    利用递归神经网络和深度卷积生成对抗网络构建了新的深度架构和 GAN 公式，将字符转换为像素，有效地将文本和图像建模相结合，从而实现了从详细文本描述中生成花和鸟的逼真图像的能力。

    May, 2016

  • 基于序列条件的手写文本图像对抗生成

    该研究提出了一种基于生成对抗网络的系统，可以合成手写单词的合成图像，并在将其与现有训练数据集集成后通过改进通用 GAN 体系结构进行离线手写文本识别。

    Mar, 2019

  • 使用 CLIP 潜变量的分层文本条件图像生成

    提出一个两阶段模型，先用 prior 生成 CLIP 图像嵌入，再由 decoder 在图像嵌入的条件下生成图像。实验表明该模型可以提高图像的多样性，并在完美保留语义和风格前提下变化非必要的细节。利用扩散模型作为 decoder, 同时使用自回归和扩散模型作为 prior，发现后者更加高效且产生的样本更优。

    Apr, 2022

  • TextCLIP：无对抗训练的文本指导人脸图像生成与操作

    提出了 TextCLIP，这是一个统一的框架，用于无对抗训练的文本引导的图像生成和操作，通过对 Contrastive Language-Image Pre-training (CLIP) 的文本图像表示能力和 StyleGAN 的生成能力的结合，能够生成高达 1024×1024 分辨率的图像，并在 Multi-modal CelebA-HQ 数据集上取得了优于现有最先进方法的结果。

    Sep, 2023

  • 从字幕生成视频：创造您所说的话

    本文中，我们提出了一个新颖的基于标题的时序生成对抗网络（TGANs-C）来生成视频，该网络结合了数据的语义和时间上的一致性。我们通过定性和定量实验验证了我们的提议，并展示了在给定标题的情况下生成逼真视频的能力。

    Apr, 2018

  • TextGAIL: 文本生成的生成对抗模仿学习

    本文提出一种基于预训练语言模型的文本生成生成对抗性学习框架，采用对比鉴别器和近端策略优化来稳定和改进文本生成性能，实验证明该方法在无条件和有条件文本生成任务上均优于 MLE 基线。

    Apr, 2020

  • TAC-GAN - 文本条件辅助分类器生成对抗网络

    本研究提出了 “TAC-GAN” 模型，一种文本到图像的生成对抗网络；相较于以前的方法，该模型使用类信息，能够提高生成样本的多样性并改善其结构一致性，对 Oxford-102 的花卉数据进行训练并通过 Inception-Score 和 MS-SSIM 测评其性能，结果表明其性能超越现有的同类模型，其平均 MS-SSIM 值达到 0.14。

    Mar, 2017

  • DiffusionCLIP: 文本引导下的扩散模型用于稳健的图像处理

    该研究提出了一种名为 DiffusionCLIP 的新方法，该方法使用扩散模型进行文本驱动的图像操作，比现有基线表现更为优异，并允许简便的多属性操作。

    Oct, 2021