BriefGPT.xyz
Ask
alpha
关键词
geometric convergence
搜索结果 - 4
黑盒变分推断的线性收敛性:我们应该坚持完成吗?
在完美变分族规范下,证明了带有控制变量的黑盒变分推断(BBVI),特别是附着着陆(STL)估计器,在几何(传统称为 “线性”)速率下收敛。我们证明了 STL 估计器的梯度方差的二次界限,由此可以直接推出使用投影随机梯度下降的 BBVI 的收
→
PDF
a year ago
关于不平衡最优输运的 Sinkhorn 算法分析
本文提供了计算复杂度分析 Sinkhorn 算法,用于解决两个若干可能具有不同质量组分的测量之间的熵正则化不平衡最优运输问题,其复杂度为近线性时间,该算法与最优运输问题的复杂度相比要更优。
PDF
4 years ago
过度参数化的非线性学习:梯度下降是否走过了最短路径?
该论文讨论在数据过度参数化时,第一阶段优化方案(如随机梯度下降)的性质。作者发现,当损失函数在初始点的最小邻域内具有某些属性时,迭代会以几何速率收敛于全局最优解,会以接近直接的路线从初始点到达全局最优解,其中,通过引入一个新的潜力函数来作为
→
PDF
6 years ago
高维统计恢复问题的梯度法快速全局收敛
对于大部分基于凸优化的统计 $M$- 估计器,我们分析了解决这些问题的渐进收敛速度,并在高维框架中工作,我们定义了适当限制的条件,并证明了这些条件适用于各种统计模型,我们的理论保证了项目的概率几何收敛速度不断提高,最高可达到模型的统计精度,
→
PDF
13 years ago
Prev
Next