低秩 Sinkhorn 分解
本文研究了满足等式和不等式约束条件下的熵正则化的最优输运问题,并提出了一种基于 Sinkhorn 算法的对应解法。通过理论保证,我们首先得出在解决问题时通过熵正则化所带来的近似误差随着参数增加而指数级减小。此外,通过描述具有李雅普诺夫函数的优化过程,我们证明了 Sinkhorn 算法在对偶空间中具有亚线性一阶收敛速度。为了在弱熵正则化下实现快速、高阶收敛,我们通过动态正则化调度和二阶加速技术来改进 Sinkhorn 算法。总体而言,本文将熵最优输运的最近理论和数值进展与约束情况相结合,使从业者能够在复杂场景中得到近似的输运计划。
Mar, 2024
本文提出两种有效的对数线性时间逼近方法来计算熵正则化最优输运问题,并提出了一种结合图神经网络和增强 Sinkhorn 的图输运网络,并实验证明它在节点数量方面具有对数线性的规模,并在图距离回归方面优于以前的模型 48%。
Jul, 2021
该论文介绍了交通运输问题在机器学习中的应用:近期的研究针对交通运输问题的计算和建模限制提出了新的方法,其中包括熵正则化和基于低秩矩阵的线性时间解算方法,以及基于惩罚项促进质量守恒的不平衡交通运输方法,该论文提出了一种将这两种方法结合的算法,并通过实际应用于空间转录组匹配问题证明了该方法的实用性。
May, 2023
本文提供了计算复杂度分析 Sinkhorn 算法,用于解决两个若干可能具有不同质量组分的测量之间的熵正则化不平衡最优运输问题,其复杂度为近线性时间,该算法与最优运输问题的复杂度相比要更优。
Feb, 2020
本文提出使用低秩近似的 ground costs 方法来提高 Sinkhorn divergences 计算效率,并将该方法应用于训练 OT-GAN 模型。
Jun, 2020
使用最优传输距离(OT)和尤其是熵正则化 OT 距离作为机器学习和数据科学中的一种评估度量越来越普遍。本研究主要针对在线 Sinkhorn 算法进行改进和优化,提出了改进的收敛性分析和压缩技术结合的在线 Sinkhorn 算法,通过实证实验和理论证明验证了方法的有效性和性能。
Oct, 2023
本文提出了一种新的重要性稀疏化方法,称为 Spar-Sink,用于高效地近似熵正则化的最优输运和不平衡最优输运解决方案。实验证明,Spar-Sink 在估计误差和速度方面优于主流竞争对手,并可以有效地估计和可视化心脏周期。
Jun, 2023
我们提出了一种将最优输运论和基于神经网络的方法集成到新颖的减小阶模型框架中的方法,通过使用 Wasserstein 距离作为自定义核函数的核 POD 方法,并利用 Sinkhorn 算法高效训练得到的神经网络,可以捕捉数据的几何结构,从而实现精确学习降维解流形。与传统指标(如均方误差或交叉熵)相比,利用 Sinkhorn 散度作为损失函数可以增强训练的稳定性,对抗过拟合和噪声并加速收敛。通过在具有 Kolmogorov n-width 缓慢衰减特性的一系列具有挑战性的测试案例上进行实验,结果表明我们的框架在准确性和计算效率方面优于传统的减小阶模型方法。
Aug, 2023
本文研究优化输运中的熵正则化对 Wasserstein 度量和重心的影响,提出了一种去偏差的 Wasserstein 重心方法,能够在保持快速的 Sinkhorn 迭代的同时避免了熵平滑。理论上证明了单峰高斯函数的熵输运重心是高斯函数,并量化了其方差偏差。同时通过实验验证了该方法的优越性。
Jun, 2020