自监督的草图到图像合成
本文首次研究了无监督的手绘草图到照片的合成,提出了一种两阶段翻译任务的方法,添加自监督去噪目标和注意力模块以处理抽象和风格差异,生成的图片忠实于草图且逼真的,并可实现基于草图的图像检索和捕捉人类视觉感知。
Sep, 2019
本文提出了一种新的基于素描图的自然照片综合方法,采用无监督学习,结合标准化模块提取参考照片、在训练中提供假素描照片对,以及两种主要成分:全局场景结构和低级视觉风格的组合。实验结果表明,该方法可以生成具有高保真度的真实感照片,并且在相应场景素描的编辑方面具有更高的细节度,优于其他基于照片综合的方法。
Sep, 2022
本研究提出了一种基于参考图像的自动着色任务的方法,使用几何失真的相同图像作为虚拟参考,以保证着色输出图像的基本真实性和密集语义对应关系,在内部注意机制中利用密集语义对应关系实现了颜色从参考到草图输入的转换,并在定量和定性评估中展示了该方法的有效性。
May, 2020
该论文提出了一个基于 GAN 框架的新方法,用于从简笔画和风格参考图像中合成带有颜色和纹理的详细艺术风格图像;该方法采用了双重遮罩机制、特征映射转换技术以及反实例标准化过程等模块,以增强风格一致性和内容约束,并取得了显著的合成性能提升。
Feb, 2020
本文提出了一种基于深度对抗图像合成框架,结合草图轮廓和稀疏颜色笔画生成逼真的汽车、卧室或人脸。我们展示了一个基于草图的图像合成系统,允许用户在草图上涂鸦以指示所需对象的首选颜色。该网络是前向的,可以实时看到用户编辑的效果。与最近关于草图到图像合成的研究进行了比较,表明我们的方法可以生成更逼真、更多样和更可控的输出,并且对于灰度图像的用户引导上色也很有效。
Dec, 2016
文章提出了一种通过 decoder 使用 StyleGAN 训练生成更加真实的照片,并且通过 autoregressive sketch mapper 和 fine-grained discriminative loss 处理手绘人类草图,实现草图到照片的转化;实验结果展示了其可行性和有效性,同时通过草图检索出生成的照片实现了在草图界的突破。
Mar, 2023
本文提出了一种使用生成式对抗学习的新方法,用于综合产生任意姿势的具有照片级真实感的人物图像。研究通过无监督的方式来处理此问题,并且将其分解成两个主要子任务,一是姿势条件的双向生成器,二是定义一个新型的损失函数,包含内容和风格项,旨在生成高感知质量的图像,可以在 DeepFashion 数据集上进行广泛的实验验证。
Sep, 2018
本文提出了一种自监督方法用于场景素描生成,该方法不依赖于任何现有的场景素描,可将单对象的素描转化为场景素描。通过引入矢量素描字幕和素描语义扩展方法,并设计一个融合多模态感知约束的生成网络,适用于零样本图像到素描的下游任务,实验证明其具有最先进的性能。最后,通过我们提出的素描生成方法,我们贡献了一个以场景素描为中心的大规模数据集,包括高度语义一致的 “文本 - 素描 - 图像” 三元组,该数据集可以显著提升现有模型在基于素描的图像检索和素描控制图像合成任务中的能力。我们将公开提供数据集和代码。
May, 2024
本研究提出了一种新的生成对抗网络 (GAN) 方法,利用数据增强及信息流构建模块等技术,在摩托车、马和沙发等 50 类别的草图上合成逼真的图像,并在 Inception 分数上取得显著的改进。
Jan, 2018