Feb, 2024

基于 PatchMatch 和 Transformers 的动态纹理转换

TL;DR通过 PatchMatch 和 Transformers 模型将动态纹理从视频传递到静态图像的简单而有效的方法。首先,使用基于 PatchMatch 算法的距离映射引导纹理传递模块合成目标视频的起始帧。然后,将合成图像分解为与其对应的结构无关的补丁,利用配备有 VQ-VAE 的 Transformers 处理长离散序列来预测后续补丁。最后,应用高斯加权平均合并策略将所有补丁平滑地组装成目标风格化视频的每一帧,实验证明了该方法在动态纹理传递方面的有效性和优越性。