可微子模最大化
本文提出了一种适用于分布式计算的子模函数最大化方法 GreeDi,该方法可在 MapReduce 框架下实现,初步实验表明该方法可应用于大规模机器学习任务中的子模优化问题,如稀疏高斯过程推断和样例聚类等问题,且在一定的自然条件下,可以达到接近于传统集中式计算模式下的性能表现。
Nov, 2014
通过直接优化偏差和方差的组合,该研究通过展示如何进行具有理论保证的高效算法,从而在次模函数中进行分布式鲁棒优化(DRO),从而实现在未知随机次模函数的情况下实现更好的性能和更好的推广。
Feb, 2018
文章提出了一种基于离散半微分的无约束和有约束子模函数优化的实用强大新框架,旨在为子模最小化和最大化问题提供统一的范例,并为解决这些问题提供了新的算法,该算法能够多次计算和高效率优化子模半梯度。作者还分析了该算法的理论性质,并进行了支撑的经验实验,证明其在最大化问题上的优秀表现。
Aug, 2013
本文研究了许多学习应用中天然存在的连续子模函数的最大化问题,证明了随机投影梯度方法在凸约束下可以提供强的逼近保证,然后将其应用于随机子模函数的最大化问题,最后通过实验证明了该方法的有效性和实用性。
Aug, 2017
本研究关注机器学习、优化和控制中的鲁棒优化问题,在面临多种故障或攻击时,提出了首个可扩展的曲率相关算法,用于近似求解单调子模目标函数,保证了优秀的逼近性能,并使用实验证明了该算法的有效性。
Mar, 2017
本文探究了三个相关且重要的机器学习问题。我们展示了这三个问题的复杂度都依赖于子模函数的 ' 曲率 ',并提供了改进旧有结果的上下界。我们证明了曲率对于子模函数的近似、最小化和学习有影响,并通过实验结果支持了我们的理论结论。
Nov, 2013
该论文研究了如何将随机梯度下降等连续优化算法应用到离散问题中的子模优化,通过将扩展线性化处理并通过向上投影处理,得到离散解,针对加权覆盖函数进行研究,实验表明,该方法在保证最优近似率的同时,大幅降低了计算成本。
Nov, 2017