moreau envelope | BriefGPT - AI 论文速递

关键词moreau envelope

搜索结果 - 6

再生核希尔伯特空间中 f - 散度的 Moreau 衬度的 Wasserstein 梯度流
使用核均值嵌入展示了正则化可以重写为某个与核 K 相关的再生核希尔伯特空间中函数的莫罗包络，并利用相关结果证明了 MMD - 正则化的 f - 散度及其梯度的性质，进而分析了以 MMD - 正则化的 f - 散度为基础的 Wasserste
PDF5 months ago
个性化异步联合学习
在异步更新的条件下，我们研究了个性化联邦学习问题。我们考虑了两种基于优化的个性化框架，并通过去除同步通信的假设和扩展函数类来提高其可扩展性。我们的主要技术贡献是确定性地证明，对于平稳和非凸函数类，我们的方法可以收敛到一阶稳定点，同时实验证明
PDF2 years ago
具有线性约束的非凸优化问题的 Moreau 包络增广 Lagrangian 方法
本文提出了一种基于 Moreau 包络的增广 Lagrange 方法（MEAL）来解决具有非凸（弱凸）并且非光滑目标的线性约束问题，证明其收敛性，并提出两种实际变体 iMEAL 和 LiMEAL 以解决子问题无解析解且难以求解的约束问题。
PDF3 years ago
随机次梯度法在弱凸函数上以 $O (k^{-1/4})$ 收敛
本文证明了应用于弱凸问题的近端随机亚梯度法能将 Moreau 包络的梯度速率推向零点，因此我们实现了关于最小化光滑非凸函数和凸可靠函数之和的近端随机梯度下降法的收敛速率的一个开放性问题。
PDF6 years ago
BinaryRelax: 一种松弛算法，用于训练量化权重的深度神经网络
该论文提出了一种名为 BinaryRelax 的算法，用于训练具有量化权重的深度神经网络，该方法使用 Moreau 包络将硬约束放宽为连续正则化器，并通过逐步调整正则化参数将权重推向量化状态，经过在 CIFAR 和 ImageNet 基准数
PDF6 years ago
Bregman-Moreau 包络的正则化
本文分析了左右 Bregman-Moreau 包络，提供了额外的渐近结果，补充了之前的研究成果。
PDF7 years ago