We consider the problem of minimizing the composition of a smooth (nonconvex)
function and a smooth vector mapping, where the inner mapping is in the form of
an expectation over some random variable or a finite sum. We propose a
stochastic composite gradient method that employs an incremental
variance-reduced estimator for both the inner vector mapping and i
本文提出一种使用归一化近端梯度求解多层组合优化问题的方法,其中包含一系列随机平滑映射,在嵌套随机方差约减的帮助下获得近似梯度,其期望样本复杂度为 O(ϵ^-3),在有限求和的情况下为 O(N+√Nϵ^-2),其中 N 是所有组合级别上的函数总数。与以前的方法相比,我们的总样本复杂度在组合级别数量上的依赖性是多项式的,而不是指数的。