小批量最优输运距离;分析与应用
本文介绍了新兴的生成对抗网络--优化输运生成对抗网络,提升了图像生成模型的稳定性和生成效果,主要特点是利用adversarially learned feature space来定义mini-batch energy distance度量优化目标,在多个经典image generation benchmark test中达到了最好的性能表现。
Mar, 2018
本文介绍一种基于生成对抗网络的可伸缩的非平衡优化输运方法,该方法可以同时学习输运映射和缩放因子,以最优的代价推动源测量到目标测量,并提供了理论证明和数值实验。
Oct, 2018
本文介绍了一种新的基于生成对抗网络的优化输运模型,使用$2$-Wasserstein距离度量判别器的目标函数,证明了在训练期间,生成器沿着初始和目标分布之间的$W_2$-测地线走,最终重现出最优映射,在低维和高维连续设置中进行验证,并证明其在图像数据上的性能优于以前的方法。
Jun, 2019
本文对最优传输距离的使用进行了探索,指出在大规模数据集上计算这些距离的方法是通过平均几个较小的最优传输问题的结果。我们论证了这种方法等效于原问题的隐式正则化,并具有无偏估计,梯度和期望值周围的集中度约束等吸引人的属性。同时我们还开展了梯度流、GAN或颜色转换等经验实验,以突出这种策略的实际价值。
Oct, 2019
通过鉴别器优化过程,我们在一类广义生成对抗网络中证明,鉴别器训练过程增加了 $p$ 与 $p_G$ 之间Wasserstein距离的双重代价函数下界,这意味着训练后的鉴别器可以近似从 $p_G$ 到 $p$ 的最优传输方案。基于一些实验和一点OT理论,我们提出了一个判别器最优传输方案(DOT)来改善所生成的图像。我们证明它可以提高Inception分数和由CIFAR-10,STL-10和ImageNet的公共预训练条件GAN训练的FID计算得出的非条件GAN的生成质量。
Oct, 2019
本研究提出了一个新的正则化解释角度,即将正则化视为一种鲁棒性机制,展示了任何凸正则化的OT都可以被解释为接受对手--地面成本的方式。这同时可以在地面空间上提供鲁棒的不相似性度量方法,并提出了相应的算法和实验性说明了这种方法的优越性。
Feb, 2020
我们提出了一种新的小批量最优输运方法Batch of Mini-batches Optimal Transport(BoMb-OT),它把小批量之间的最优耦合考虑在内,可以看作是在概率测度空间上定义的有效距离的逼近,通过实验表明,BoMb-OT可以广泛应用于各种应用中,包括深层生成模型,深层领域适应,近似贝叶斯计算,颜色转换和渐变流,并在各种应用中表现良好。
Feb, 2021
本文讨论了在机器学习中优化传输(Optimal Transport)的应用,侧重于可扩展性问题,并提供了优化传输问题的全面综述。作者提出了现有文献中用于解决优化传输可扩展性问题的方法,并对这些方法进行了系统分析,并提出了未来研究方向和挑战。
May, 2023