Jul, 2023

延迟下的极小极大优化

TL;DR本文旨在研究标准最小 - 最大优化算法的性能,特别是在出现延迟梯度更新时。研究结果表明,在合适的技术假设下,梯度下降 - 上升和延迟更新的额外梯度算法仍然保证收敛到凸 - 凹和强凸 - 强凹的鞍点。