BriefGPT.xyz
Oct, 2021
GDA-AM: 通过Anderson加速解决极小极大优化问题的有效性研究
Solve Minimax Optimization by Anderson Acceleration
HTML
PDF
Huan He, Shifan Zhao, Yuanzhe Xi, Joyce C Ho, Yousef Saad
TL;DR
提出了一个新的极小极大优化框架 GDA-AM，利用 Anderson 混合算法加速 GDA 收敛，解决了同时使用 GDA 时出现的发散问题，并以理论和实验的方式证明该算法在较温和的条件下可以实现二次问题的全局收敛，并改进了 GAN 训练。
Abstract
Many modern
machine learning
algorithms such as
generative adversarial networks
(GANs) and adversarial training can be formulated as minimax
opti
→