Oct, 2023

R&B：区域和边界感知的零样本基于文本生成图像

PDF
TL;DR这篇论文研究了利用扩散模型进行零样本生成的文本到图像转换方法，提出了一种基于区域和边界感知的交叉注意力引导方法，通过渐进调节扩散模型的注意力图来生成与输入布局信息相对应的高保真度、与文本输入高度兼容、准确解释布局指令的图像。实验证明，该方法在多个基准测试上在质量和数量上均优于现有的零样本生成方法。
text-to-imagediffusion modelsgrounded t2i generationlayout instructionsattention maps
发现论文，激发创造
  • 用于文本到图像扩散模型的零样本空间布局调节

    使用文本生成图像的方法已显著提高了生成图像建模的状态，通过结合自然语言界面和空间控制，在本文中，我们考虑了与图像画布上特定位置对象相关的文本生成图像的问题，并提出了 ZestGuide，这是一种零 - shot 分割指导方法，可插入预先训练的文本到图像扩散模型中，我们的实验结果表明，在精准对齐所需的输入分割的情况下，与使用相应分割进行训练的组件相比，提高了图像质量，而在 COCO 数据集上，我们的结果比 Paint with Words 更好。

    Jun, 2023

  • 基于关注重心的文本到图像的合成

    本研究提出了两个新的损失函数，用于在采样过程中根据给定的布局重新聚焦注意力图，以解决在多个对象、属性和空间组合都涉及到的情况下现有文本到图像综合方法无法精确遵循文本提示的问题，并通过 Large Language Models 合成的布局在 DrawBench 和 HRS 基准测试中进行了全面实验，证明了我们提出的方法可以轻松有效地集成到现有的文本到图像方法中，并始终提高其生成图像与文本提示之间的对齐度。

    Jun, 2023

  • DivCon: 渐进式文本到图像生成的分割与征服

    通过采用分割和征服方法，我们改进了传统的扩散式文本到图像生成模型，使其在多个对象和复杂的空间关系下从文本生成图像，提高了可控性和一致性。

    Mar, 2024

  • 做回自己：多主体文本到图像生成的有限关注

    我们研究了文本到图像扩散模型中的语义泄漏问题，并提出了一种名为有界注意力的方法，通过限定信息流的路径来解决泄漏问题，从而提高多主题生成的质量。

    Mar, 2024

  • TextCenGen：面向文本到图像生成的注意力导向的文本中心背景适应

    TextCenGen 是一种新的文本图像生成方法，采用了力导向注意力引导模型，以生成更具和谐感的文字图像布局。在图形设计方面的实验结果显示，TextCenGen 相较于传统方法在布局上更出色，同时在特定文本位置的数据集上也显著提高了 Text-to-image 模型的结果。

    Apr, 2024

  • 无需训练的结构扩散引导的组合文本到图像合成

    本文基于扩散模型的可控属性，将语言结构与扩散过程相结合，进一步提高了 T2I 模型的组合能力，特别是更准确的属性绑定和更好的图像组合，这得益于跨注意层的帮助和语言洞察力。

    Dec, 2022

  • 使用丰富提示进行零样本图像转换的扩散模型再生学习

    本文提出了一种 ReDiffuser 图片修复模型，该模型使用自动生成的描述来完成图片编辑，利用再生学习和交叉注意力向导实现图片对形状的一致性保留，并引入一种协作更新策略，提高图片修复的质量和一致性。实验结果表明，该方法在真实和合成图片编辑方面优于现有方法。

    May, 2023

  • ReGround: 提升文本和空间定位的无成本方法

    通过改变网络架构，将分布式注意力和交叉注意力从串行变为并行，可以显著减少文本和空间对齐之间的权衡。

    Mar, 2024

  • 文本引导的可探索式图像超分辨率

    本文介绍了零样本文本引导下的开放领域图像超分辨率探索问题，提出了两种零样本文本引导超分辨率的方法，涉及生成过程、扩散模型和恢复方法，实现了匹配语义意义并保持数据一致性的多样解决方案，优化了极端超分辨率任务的恢复质量、多样性和可探索性。

    Mar, 2024

  • MS-Diffusion：基于布局引导的多主体零样本图像个性化

    我们的研究引入了 MS-Diffusion 框架，用于基于布局指导的零样本图像个性化处理多主题，融合了引用令牌和特征重采样以保持细节的准确性，并通过跨主题注意力来实现各自主题条件对特定区域的影响，通过全面的定量和定性实验，证明该方法在图像和文本的准确性方面优于现有模型，推动个性化的文本到图像生成的发展。

    Jun, 2024