Jan, 2024

通过扩散模型联合生成场景图和图像

PDF
TL;DR本文介绍了一项新的生成任务：联合场景图像生成。通过引入 DiffuseSG 模型，本文探索了生成逼真的场景图，使得图像生成具备高效和可解释性的控制能力，并展示了该模型在场景图生成以及相关应用中的优越性。
generative taskscene graph generationdiffusesgadjacency matrixiou regularization
发现论文，激发创造
  • 使用场景图进行 3D 场景扩散引导

    使用场景图进行 3D 场景扩散引导的新方法，通过在去噪网络中使用关系图卷积块来利用场景图提供的相对空间信息，显著提高了场景描述与生成场景之间的对齐。

    Aug, 2023

  • 基于扩散的场景图像生成及带掩膜对比预训练

    通过学习场景图嵌入来直接优化其与图像的对齐以生成语义可操作的图像，该方法使用了遮蔽自编码丢失和对比丢失两种方法训练嵌入，并建立了潜在扩散模型来实现场景图像的生成。在 Visual Genome 和 COCO-Stuff 数据集上，该方法表现优异，超过了当前最好的方法。

    Nov, 2022

  • SceneGenie: 基于场景图引导的扩散模型图像合成

    本文提出了一种针对扩散模型的新型引导方法，通过边界框和分割映射信息进行推理时间的采样过程，有效提高了文本到图像生成的准确性和分辨率，从而在场景图像生成方面取得了更好的表现和效果，并在公共基准测试中超越了基于场景图像和文本的扩散模型。

    Apr, 2023

  • 无条件场景图生成

    本文提出了一个用于无条件生成场景图的生成模型 SceneGraphGen，通过层级循环架构直接学习带标签和有向图的概率分布，生成的场景图多样且遵循真实场景的语义模式，同时还证明了生成的图在图像合成、异常检测和场景图完整性方面的应用。

    Aug, 2021

  • 基于图像渲染的去噪传播

    通过引入第一种能够快速进行真实世界三维场景的详细重建和生成的推广模型，我们在本研究中提出了三个贡献：首先，引入了一种新的神经场景表示方法 IB-planes，能够有效准确地表示大型三维场景，并在需要时动态分配更多容量以捕捉每张图像中可见的细节；其次，我们提出了一种去噪扩散框架，通过仅使用二维图像而不需要额外的监督信号（如掩码或深度）学习对这种新型三维场景表示的先验知识，从而支持三维重建和生成；第三，我们开发了一种避免将基于图像渲染与扩散模型集成时产生平凡三维解决方案的原则性方法，即通过丢弃某些图像的表示。我们在几个具有挑战性的真实和合成图像数据集上评估了该模型，并在生成、新视图合成和三维重建方面展示了优越的结果。

    Feb, 2024

  • 草图引导的场景图像生成

    通过使用预训练的扩散模型将每个单独的对象绘图转换为对象的图像，并通过使用全局提示来推断混合的潜在表示以生成场景图像，本研究提出了一种新颖的以素描为导向的场景图像生成框架，分离了对象级跨域生成和场景级图像构建的任务。

    Jul, 2024

  • 潜在扩散中的场景图条件

    利用 ControlNet 和 Gated Self-Attention，我们提出了多种方法来解决稀缺的图像和场景图数据，通过场景图生成高质量图像，超越了之前的方法。

    Oct, 2023

  • 场景图像合成：将 CLIP 引导与图结构条件整合于扩散模型中

    利用预训练的文本到图像扩散模型和 CLIP 引导，我们的方法通过消除中间布局的预测，将图形知识转化为图像，从而生成与给定场景图一致的图像。实验证明，我们的方法在 COCO-stuff 和 Visual Genome 数据集的标准基准上优于现有方法。

    Jan, 2024

  • 基于扩散的图生成模型：方法与应用

    本论文总结了扩散模型在图像生成方面的成功，并介绍了扩散模型在图生成方面的应用，特别是从分子和蛋白质建模方面进行了重点讨论，并讨论了扩散模型在图结构数据中的新方向。

    Feb, 2023

  • SG-Adapter：使用场景图引导增强文本到图像生成

    通过引入场景图适配器（SG-Adapter）来纠正原始文本嵌入中的不准确性，使生成的图像与复杂情境中的多个对象和关系的人类预期保持一致。

    May, 2024