Nov, 2023

多模态联合嵌入学习的外观编码

TL;DR通过在生成建模的最新工作中使用外观编码,我们提出了一个框架,通过在不同模态之间施加对比损失约束来学习场景的外观和结构的联合嵌入空间,从而克服了需要在每次推理中重新训练新的外观编码的问题。通过将我们的框架应用于 RADIATE 数据集的简单变分自动编码器模型,并定性地证明我们可以使用白天外观编码生成新的夜间照片渲染,而无需额外的优化迭代。此外,我们将我们的模型与使用标准的每图像外观编码技术的基线变分自动编码器进行比较,并展示我们的方法在不为任何看不见的图像学习外观编码的情况下实现了类似质量的生成。