噪音下的次模优化
研究了Greedy算法在非子模不减集函数基数约束最大化中的性能,并证明了在一些重要的非子模函数如贝叶斯A-最优目标函数中,该算法具有很强的经验性能。我们以广义曲率α和子模性比率γ的组合为特点,证明了其理论保证,特别地,对于基数约束最大化,我们证明了Greedy算法具有紧密的近似保证为1/α(1-e^(-γα))。另外,我们还限制了在几个重要的真实世界目标中子模性比率和曲率,包括贝叶斯A-最优目标、方形子矩阵的行列式函数和具有组合约束的某些线性规划。
Mar, 2017
本文研究了在确定性的 $ au$ 时,如何在满足固定大小约束 $k$ 的条件下最大化单调子模函数。提出了新的分区鲁棒性子模最大化算法,其构造具有指数增加大小的桶的分区,并在桶上应用标准子模优化子例程,证明了我们的算法对于更一般的 $ au = o(k)$ 具有相同的保证。在数据汇总和影响最大化方面,数值上验证了PRo的性能,并展示了对贪婪算法和Orlin等人的算法的优势。
Jun, 2017
本文提出了一种随机贪心算法来最大化弱次模函数在一般拟阵约束下的值,其中距离次模性的距离由参数γ衡量,该算法在实践中表现良好,并且是第一个能够约束弱次模函数最大化具有非平凡逼近保证的算法。
Jul, 2017
本文研究了许多学习应用中天然存在的连续子模函数的最大化问题,证明了随机投影梯度方法在凸约束下可以提供强的逼近保证,然后将其应用于随机子模函数的最大化问题,最后通过实验证明了该方法的有效性和实用性。
Aug, 2017
通过直接优化偏差和方差的组合,该研究通过展示如何进行具有理论保证的高效算法,从而在次模函数中进行分布式鲁棒优化(DRO),从而实现在未知随机次模函数的情况下实现更好的性能和更好的推广。
Feb, 2018
研究了在最劣情况下,基于一个基数约束k最大化单调集合函数的删除问题,提出了一种新的算法Oblivious-Greedy,并对于更广泛的非凸优化问题证明了首个常数因子逼近保证,通过提出新的度量参数,如逆曲率,证明了这些结果适用于线性区域,并通过支撑选择和方差缩小等两个实际问题的案例研究得到了验证。
Feb, 2018
本文研究次模函数的优化和算法问题,提出了一种在 $k$-cardinality 约束下最大化 $g-c$ 的算法,并通过实验设计对其进行了验证。
Apr, 2019
我们提出了一种新的算法,可以在实践中有效地解决非单调受限子模型最大化问题,结合了0.385的逼近保证和低的查询复杂度。通过在各种机器学习应用中进行实验,包括电影推荐、图像摘要等,我们评估了我们算法的实验性能,证明了我们方法的功效。
May, 2024
在具有一致性约束的动态环境中,我们研究了在基数约束下最大化单调次模函数,其在数据挖掘和机器学习中有多个应用。我们提供了在此场景中具有一致性和逼近质量之间不同权衡的算法。实验证明我们算法在真实世界实例中的有效性。
May, 2024