non-convex learning | BriefGPT

关键词non-convex learning

搜索结果 - 5

ICLR使用方差减少加速复制交换随机梯度马尔科夫链蒙特卡罗方法的收敛时间
本文提出了一种改进 reSGLD 的方法来加速处理非凸学习，采用方差约减的策略并在 Markov jump process 下进行非渐进的分析，结果表明我们在优化和不确定性预测方面实现了最先进的效果。
PDF4 years ago
非凸区域中恒定步长随机梯度下降的分析：渐近正态性和偏差
本研究探讨了非凸非光滑目标函数中常数步长随机梯度下降算法的渐近正态结果，结果表明只要非凸和非光滑目标函数满足耗散性特性，SGD 算法的迭代平均值就会渐近正态分布，该结果可用于构建对于使用 SGD 算法的非凸问题的置信区间。同时，本文通过对其
PDF4 years ago
神经网络的平均场 Langevin 动力学和能量景观
研究使用梯度算法时非凸问题的抽象理论，利用无穷维度状态空间和概率密度函数最小化能量函数，并研究该梯度流的收敛性。
PDF5 years ago
NIPS非凸学习和优化的梯度均匀收敛性
研究非凸性学习任务中经验风险的精细属性（梯度）和群体对应属性的收敛速度以及收敛对优化的影响；提出矢量值 Rademacher 复杂性作为导出非凸问题梯度无维度一致收敛界的工具；给出了应用这些技术进行非凸广义线性模型和非凸健壮回归的批梯度下降
PDF6 years ago
非凸学习的 SGLD 泛化界限：两种理论视角
本文提出了两个理论，分别使用稳定性和 PAC-Bayesian 结果的非渐进离散时间分析，研究了 Stochastic Gradient Langevin Dynamics（SGLD）在非凸目标下的泛化误差，其边界没有隐含依赖于参数的维数、
PDF7 years ago