mean-field langevin dynamics | BriefGPT

关键词mean-field langevin dynamics

搜索结果 - 6

改进的均场神经网络的粒子逼近误差
通过改进粒子近似误差的对数 Sobolev 不等式常数依赖性，我们展示了 MFLD 的收敛性提高、对均场稳态分布的采样保证以及粒子复杂度的统一随时间的 Wasserstein 传播。
PDFa month ago
基于核视角的两层神经网络的均场分析
在这篇论文中，我们通过核方法的视角研究了两层神经网络在均场极限下的特征学习能力。我们利用两个时间尺度的极限来聚焦于第一层产生的核动态，从而将学习问题转化为对内在核的最小化问题。我们还展示了均场 Langevin 动力学的全局收敛性，并推导了
PDF3 months ago
均场 Langevin 动力学的收敛性：时间和空间离散化、随机梯度和方差缩减
本文提出了一个新的框架来证明具有有限粒子逼近，时间离散化和随机梯度逼近误差的 MFLD 的混沌传播具有时间一致性，并在学习问题和不同梯度估计器的广泛范围内建立了量化的收敛速率保证，包括 SGD 和 SVRG 算法。
PDFa year ago
均场 Langevin 动力学：指数收敛和退火
本文研究了噪声粒子梯度下降算法，该算法用于求解带熵项的凸函数的最小化，证明了当一类 Log-Sobolev 不等式成立时，此算法在指数级别内收敛，适用于某些两层神经网络风险最小化的问题，并研究了退火动态的收敛性。
PDF2 years ago
通过松弛最优控制的均场神经 ODE
本文介绍了一种基于控制论、深度学习和统计抽样理论的框架，来研究深度神经网络和神经 ODE 模型，包括 Mean-Field Langevin 动力学的梯度流、时间一致传播的混沌性等问题，并提供了与学习速率、粒子数 / 模型参数和梯度算法迭代
PDF5 years ago
神经网络的平均场 Langevin 动力学和能量景观
研究使用梯度算法时非凸问题的抽象理论，利用无穷维度状态空间和概率密度函数最小化能量函数，并研究该梯度流的收敛性。
PDF5 years ago