Jul, 2023

你不得不止步:预测和优化中的零梯度问题在凸优化中

TL;DR预测和优化是一种越来越流行的决策范式,使用机器学习来预测优化问题中的未知参数,并通过任务性能作为损失函数训练预测模型。本文发现了这种方法的一个未被注意到的缺点--零梯度问题,并提出了一种解决方法,该方法基于微分优化的数学属性,并在两个真实世界的基准测试中进行了验证。