具有微分包含的异步随机逼近
本文研究了非凸、非光滑情况下随机逼近的收敛性,提出了一种基于极限均值的收敛方法并推导了相应的微分包含形式,为证明无约束和约束随机逼近问题的收敛性提供了一般框架,尤其适合于深度学习和低维度高稀疏性统计推断中随机次梯度算法的收敛性分析。
May, 2018
本文介绍了一种新的分布式随机逼近方法 —— 信息时效性随机过程 (AoIP),并给出了基于 AoIP 之上的广义 Borkar-Meyn 稳定性定理 (BMT)。同时本文还提出了一种适用于时变下限求和的新型 Gronwall 不等式,并将此应用于优化问题。
May, 2023
本文研究了一种分布式随机逼近算法,可应用于去中心化的估算、优化、控制或计算。该算法包含本地步骤和交换步骤,通过微小的步长逼近算法和局部加权平均计算。通过研究约束子空间内平均场的 Lyapunov 函数和随机权重矩阵的收缩性质,建立估计向共识收敛的证明,并进行了二阶分析和多项式平均版本的研究。
Mar, 2012
本文研究没有通信延迟的异步随机逼近算法,主要贡献是通过扩展 Borkar 和 Meyn 的方法来进行这些算法的稳定性证明,我们还从稳定性结果中导出收敛性结果,并讨论其在重要的平均奖励强化学习问题中的应用。
Dec, 2023
本文采用随机协方差矩阵和动力学平均场方程来分析一种用于大型高斯潜变量模型的随机顺序消息传递算法,包括模型不匹配情境和算法收敛的模型参数取值范围.
Feb, 2022
本文表明,渐进地,完全异步的随机梯度程 序可以在几乎与标准随机梯度程 序的渐进最优性相同的条件下实现解决凸优化问题的最优(甚至是常数因子)收敛率。大体而言,随机近似方案固有的噪音支配了任何来自异步的噪音。我们还提供了经验性 证据,证明了异步、并行的随机优化方案的强大性能,这表明随机近似问题固有的稳健性允许更快的并行和异步解决方法。
Aug, 2015
本研究首次提出两个时间尺度随机逼近的渐近收敛性分析,其中包括非加性控制的马尔可夫噪声。通过与限制微分协同关系进行比较,分析了控制马尔可夫过程的基于随机逼近的渐近行为,最终提供了具有线性功能逼近的离策略收敛问题的解决方案。
Mar, 2015
使用高斯过程作为灵活的模型并使用高斯过程回归直接从稠密数据集中计算估计,开发出一种非参数方法来估计随机微分方程组中的漂移和扩散函数,并开发了一种近似的期望最大化算法来处理稀疏观察之间的未观察到的潜在动态。
Feb, 2017
研究一种纯随机方法中的平均场反向随机微分方程的特殊平均场问题的近似解,证明其收敛速度为 1 /sqrt {N},并证明其三元组以一定意义收敛于一种前向 - 反向随机微分方程解,该解不仅受到布朗运动的控制,而且还受独立高斯场的控制。
Nov, 2007