在这项研究中，我们探讨了在概率空间上定义的 Sobolev 平滑函数的数值逼近的挑战性问题。我们采用三种基于机器学习的方法，通过求解有限个最优传输问题和计算相应的 Wasserstein 潜势，使用 Wasserstein Sobolev 空间中的经验风险最小化和 Tikhonov 正则化，以及通过表征 Tikhonov 泛函的 Euler-Lagrange 方程的弱形式来解决这个问题。作为理论贡献，我们对每种解决方法的泛化误差提供了明确且定量的界限。在数值实现中，我们利用适当设计的神经网络作为基函数，经过多种方法的训练，使我们能够在训练后快速评估逼近函数。因此，我们的构造性解决方案在相同准确性下显著提高了评估速度，超过了现有方法数个数量级。

Oct, 2023

该论文探讨了基于在线凸优化的强化学习的新框架，特别是镜像下降及相关算法，提出了一种新的类似于梯度下降的迭代方法。其中，基于不同 Bregman 散度的抛物线梯度强化学习法比常规 TD 学习更为普适。还提出了一种新型的稀疏镜像下降强化学习方法，相比之前基于二阶矩阵方法的方法，在寻找一个 l1 正则化 Bellman 方程的稀疏不动点时具有显著的计算优势。

Oct, 2012

该研究通过引入熵平滑，将 Carlier 等人（2014）所提出的 Wasserstein 变分问题的对偶式正则化，从而处理了涉及 Wasserstein 距离的计算问题，得到了更容易实现和数值更稳定的优化问题，应用于计算 Wasserstein 重心和空间规则化函数的梯度流。

Mar, 2015

研究了定义在 Wasserstein 空间（概率测度空间）中的一类优化问题，其中目标函数沿广义测地线是非凸函数。当正则化项为负熵时，优化问题转化为一个采样问题，在概率测度（优化变量）和目标概率测度之间最小化 Kullback-Leibler 散度，其中概率密度的对数是一个非凸函数。在几个非凸（可能非光滑）情况下，通过一种新的半正向 - 反向 Euler 方案，得出了多个收敛性洞察。值得注意的是，这种半正向 - 反向 Euler 方案只是正向 - 反向 Euler 方案的轻微修改，在我们非常普遍的非测地线凸设置中，正向 - 反向 Euler 方案的收敛性 -- 这是我们所知道的 -- 仍然未知。

Jun, 2024

通过研究定义在无限维函数类上的极小极大优化问题，我们限定函数在过度参数化的两层神经网络类上，并研究（i）梯度下降 - 上升算法的收敛性和（ii）神经网络的表示学习。

Apr, 2024

本研究介绍了一种基于输入凸神经网络的渐进 Wasserstein 流逼近方法，无需领域离散化或粒子模拟，可用于机器学习应用，例如非线性滤波。

Jun, 2021

该研究实现了对于凸函数空间的 Jenkins-Sturges-Synder 方案的可靠离散化，为非线性扩散问题和人流运动建模提供了有效的数值模拟结果。

Aug, 2014

Variational inference (变分推断) can be optimized using Wasserstein gradient descent methods to improve efficiency and alignment of variational parameters with the true posterior.

Oct, 2023

本文提出一种应用于概率分布空间优化问题中的变分形式的 Wasserstein 梯度流方法，该方法利用了内部批量样本更新，实现了良好定义和有意义的目标函数下的梯度流构造，并在合成和真实高维数据集的实验中展示了其性能和可扩展性。

Dec, 2021

有限维多面体子集、Wasserstein 空间、均场变分推断、最小化算法和 KL 散度。

Dec, 2023