BriefGPT.xyz
大模型
Ask
alpha
关键词
accelerated convergence
搜索结果 - 4
CADE: 余弦退火差分进化用于尖峰神经网络
通过引入余弦退火差分进化（CADE）方法，本论文尝试解决脉冲神经网络（SNNs）优化的挑战，通过调整差分进化（DE）的变异因子和交叉率来获得更好的收敛和准确性。使用基于迁移学习的初始化方法对 SNN 进行改进，进一步提高了 CADE 的性能
→
PDF
a month ago
具向异性梯度噪声的随机重力球法加速收敛
本文通过建立随机重球方法在二次目标函数和异性梯度噪声条件下的非渐近收敛界，证明了重球动量可以在 SGD 的偏差项上提供加速收敛，同时与随机方差项相比，仍然能够实现接近最优的收敛速度，从而在统计极小化速度的对数因素范围内整体收敛，该结果意味着
→
PDF
6 months ago
FedNAR：带有归一化退火正则化的联邦优化
通过引入归一化退火正则化，将权重衰减和梯度裁剪相结合，提高联邦学习算法的收敛性和模型准确性。
PDF
9 months ago
在线自适应方法、普适性和加速
本文针对凸无约束优化问题提出了一种新方法，通过一种自适应学习率规则和线性耦合两个序列的方式，利用重要权重和自适应在线学习算法的思想实现了对光滑目标、非光滑一般情况和随机优化的加速收敛。实证分析表明了本方法在上述场景中的适用性并证实了我们的理
→
PDF
6 years ago
Prev
Next