二次拟布尔优化的次模化
本文提出了一种针对大规模二次二次规划问题的新型 SDP(半定规划)公式,并基于此提出了两种求解方法,即准牛顿法和平滑牛顿法,该方法能有效地解决许多计算机视觉问题,包括聚类、图像分割、共同分割和注册等。
Nov, 2014
本研究将众所周知的 BFGS 拟牛顿方法及其内存限制变种 LBFGS 扩展到非平滑凸目标的优化,提出了 subBFGS 算法,其全局收敛,并使用其记忆限制变体(subLBFGS)来最小化 L2 正则化风险并开发了新的多类和多标签设置下的准确搜索算法。
Apr, 2008
本文研究了带有子模性目标函数的组合优化问题,提出了一种基于新技术的算法来优化多线性松弛问题,该算法避免了对称性等性质的需要,适用于约束问题,相比之前的算法,它具有更好的保证。
Nov, 2016
该文提出了一种基于小块标记枚举的大图通用最小化方法,可用于复杂高阶能量的优化。该方法在曲率正则化等难解问题上表现优越,并通过一种新颖的积分几何方法直接评估小块的曲率。
Mar, 2013
本文从新的角度研究低层视觉任务中的能量最小化问题,以可学习的子空间约束取代启发式正则化项,并保留数据项以利用任务的第一原理的领域知识。通过 LSM 框架,可以统一多个低层视觉任务的网络结构和参数,使用完全共享的参数同时训练单个网络,甚至将训练好的网络推广到未知任务上,只要能够制定其数据项。本文在交互式图像分割、视频分割、立体匹配和光流等四个低层任务上验证了 LSM 框架,并在各种数据集上验证了该网络。实验结果表明,所提出的 LSM 方法具有更小的模型大小、更快的训练收敛和实时推理以及优异的成果。
Apr, 2020
本文提出了一种基于函数提升的新型空间连续凸松弛框架,旨在解决多标签问题,与之前提出的基于函数提升的方法相比,本方法基于分段凸近似,因此需要更少的标签;与最近的基于 MRF 的方法相比,本方法在一个空间连续设置中进行,并且显示较少的栅格偏差;此外,本文的公式在局部意义上是可能得到的最紧凑的凸松弛,易于实现并允许在 GPU 上进行高效原始 - 对偶优化。本方法在几个计算机视觉问题上的效果证明了其有效性。
Dec, 2015
本文介绍了通过使用广义子模函数代替较简单的目标函数获得的几个传统计算机科学问题的推广,包括子模型负载平衡,子模型最稀疏切割和子模型平衡切割等,并建立了这些问题的近似界限。
May, 2008
本文介绍了上线性可编码 / 可平方化函数的概念,该类函数扩展了凹性和 DR - 次模性,适用于不同凸集的单调和非单调情况。提出了一种通用的元算法,将线性 / 二次最大化的算法转化为优化上可平方化函数的算法,为处理凹和 DR - 次模优化问题提供了统一方法。将这些结果扩展到多反馈设置,促进了半强盗 / 一阶反馈与盗贼 / 零阶反馈之间,以及一阶 / 零阶反馈与半强盗 / 盗贼反馈之间的转换。利用这个框架,使用跟随扰动领袖(FTPL)算法和其他算法作为线性 / 凸优化的基础算法,得到了新的无投影算法,改善了各种情况下的现有最新结果。在 DR - 次模最大化中获得了动态和自适应的遗憾保证,这是在这些设置中首次实现此类保证的算法。值得注意的是,与现有最新结果相比,本文在较少的假设下实现了这些进展,突显了其对非凸优化的广泛适用性和理论贡献。
Apr, 2024
本文提出了一种基于采样技术和新的乘性更新算法的新颖子线性时间逼近算法,可用于解决一些机器学习优化问题,如训练线性分类器和查找最小包含球,此外,还用于解决一些核化版本的这些问题,如 SVM 等。此外,文章还在半流数据流设置中给出了实现,实现了第一个低通多项式空间和次线性时间算法。
Oct, 2010