有限马尔可夫链熵的梯度流
本文针对概率度量空间上基于 Wasserstein 距离的梯度流理论进行了阐述,涵盖了欧氏理论的一般化和 Jordan-Kinderleher-Otto 方案的详细描述,并介绍了其他梯度流 PDEs 和基于这些思想的数值方法,最后阐述了 Ambrosio、Gigli、Savar 和 Kuwada 和 Ohta 最新理论成果研究度量空间热流问题。
Sep, 2016
本文构建了一个新的随机概率度量空间,并使用相对熵函数作为 Hamiltonian,使其在球面和单位区间上都具有 Gibbs 结构。我们利用其积分换先公式,通过 Dirichlet 形式方法构建了两类概率度量空间上的扩散过程,第一类与 Malliavin 的 Brownian motion 密切相关,第二类是热流的概率值随机扰动,其内部度量是二次 Wasserstein 距离,可视为 Wasserstein 空间上的经典扩散过程。
Apr, 2007
本文研究了基于梯度流的采样方法的设计要素,主要包括能量函数、度量、和用于算法推导的梯度流的数值近似。首先,我们展示了 Kullback-Leibler 散度作为能量函数的独特性质,即由它引导的梯度流与目标分布的标准化常数无关。其次,我们从不变性的角度研究了度量的选择,引入了一种放松的仿射不变性,构建了各种仿射不变的 Wasserstein 和 Stein 梯度流。最后,基于高斯近似的梯度流方法被提出,并与参数变分推断衍生的梯度方法建立了联系,理论和数值上研究了它们的收敛性。
Oct, 2023
我们研究无限维优化问题,即查找将概率测度分解为 K 个概率子测度以最小化受聚类和用户分组应用启发的特定损失函数。我们分析了最优子测度支撑集的结构,并介绍了基于 Wasserstein 梯度流的算法,证明了它们的收敛性。数值结果说明了我们算法的可实施性并提供了进一步的见解。
Jun, 2024
该研究论文介绍了一种基于 Wasserstein 梯度流的扩散过程的新近似推理方法,该方法直接在连续函数空间中计算 Wasserstein 梯度流,并具有可比拟的过滤能力。
Jun, 2018
我们研究了具有 Polish 状态和动作空间的无限时段熵正则化马尔可夫决策过程的 Fisher-Rao 策略梯度流的全球收敛性。该流是策略镜像下降方法的连续时间模拟。我们建立了梯度流的全球适定性,并证明其指数级收敛到最优策略。此外,我们证明了该流在梯度评估方面的稳定性,从而揭示了以对数线性策略参数化的自然策略梯度流的性能。为了克服客观函数的非凸性和由熵正则化引起的不连续性引起的挑战,我们利用了性能差分引理和梯度与镜像下降流之间的对偶关系。
Oct, 2023
本文提出一种应用于概率分布空间优化问题中的变分形式的 Wasserstein 梯度流方法,该方法利用了内部批量样本更新,实现了良好定义和有意义的目标函数下的梯度流构造,并在合成和真实高维数据集的实验中展示了其性能和可扩展性。
Dec, 2021
本研究通过开发一类具有更好凸性质的运输度量学来解决 Wasserstein 梯度流研究中的凸性缺乏问题,并使用这些度量学证明了描述 Wasserstein 离散梯度流的 Euler-Lagrange 方程。随后,我们运用这些结果来证明了 Wasserstein 度量的指数公式,并使用该方法简单证明了梯度流的多种属性,包括收缩半群特性和能量耗散不等式。
Oct, 2013
使用核均值嵌入展示了正则化可以重写为某个与核 K 相关的再生核希尔伯特空间中函数的莫罗包络,并利用相关结果证明了 MMD - 正则化的 f - 散度及其梯度的性质,进而分析了以 MMD - 正则化的 f - 散度为基础的 Wasserstein 梯度流现象,并提供了 Tsallis-α 散度的概念验证数值例子。
Feb, 2024