用于顺序和并行神经结构搜索的最优传输内核
本文介绍了 OT-GNN 模型,该模型利用参数原型计算图嵌入,并通过参数原型和乘子做到了与传统的求和聚合不同的方法,通过几项分子属性预测任务的实验证明,此方法在图嵌入的平滑性和预测性能上超过了当前流行的其它方法。
Jun, 2020
该研究提出了一个基于最优传输与聚类结构相结合的层级对齐方法,同时采用 ADMM 算法和 Sinkhorn 距离来提高噪声、模糊或多峰数据的对齐精度,并在合成数据和神经信号解码中进行了应用,表明该方法对于具有一致聚类结构的数据集在跨领域对齐方面具有显著的性能改进作用。
Jun, 2019
学习度量到度量映射是机器学习中的一项关键任务,而神经最优输运方法(Neural OT)结合了神经网络模型和最优输运理论,将最优输运作为归纳偏置,并通过实验表明其在单细胞生物学中具有实用性。
Oct, 2023
本文研究了神经网络在最优传输问题中的应用。通过使用输入凸性神经网络来构建连续测量的对,该对的基本真实的最优传输映射可以通过分析获得。然后使用这些基准测量来评估现有的最优传输求解器,研究发现现有的最优传输求解器精度存在局限性,提高最优传输的准确性不一定能带来更好的效果。
Jun, 2021
以单一框架统一 Optimal Transport(OT)为基础的对抗方法,通过对统一框架的全面分析来阐明每个组成部分在训练动力学中的作用。我们提出了一个简单而新颖的方法,逐步改进生成分布,并逐渐与数据分布对齐。该方法在 CIFAR-10 上实现了 2.51 的 FID 得分,胜过了统一的基于 OT 的对抗方法。
Oct, 2023
该研究介绍了一种基于神经网络的算法,用于计算强和弱输运成本的最优输运图和计划,并证明了神经网络是概率分布之间传输计划的通用逼近器。通过在玩具示例和非成对图像翻译上评估我们的最优输运算法的性能。
Jan, 2022
我们提出了一种将最优输运论和基于神经网络的方法集成到新颖的减小阶模型框架中的方法,通过使用 Wasserstein 距离作为自定义核函数的核 POD 方法,并利用 Sinkhorn 算法高效训练得到的神经网络,可以捕捉数据的几何结构,从而实现精确学习降维解流形。与传统指标(如均方误差或交叉熵)相比,利用 Sinkhorn 散度作为损失函数可以增强训练的稳定性,对抗过拟合和噪声并加速收敛。通过在具有 Kolmogorov n-width 缓慢衰减特性的一系列具有挑战性的测试案例上进行实验,结果表明我们的框架在准确性和计算效率方面优于传统的减小阶模型方法。
Aug, 2023
GeONet 是一个适用于实时预测的深度神经网络,它通过学习非线性映射来连接 Wasserstein 距离和 geodesic,从而比传统的基于网格的方法具有更高的准确性和更少的计算成本。
Sep, 2022
通过引入高斯平滑的方法,本文提出了一种新颖的高斯平滑最优输运(Gaussian-smoothed OT)框架,以在保持 1-Wasserstein 度量结构的同时消除了实证逼近的维数诅咒,并在实证研究中证实了其可行性和优越性,为信息科学领域中的最优输运理论和应用提供了新思路。
Jan, 2020