关键词asynchronous optimization
搜索结果 - 4
- 异步批次贝叶斯优化，带有改进的本地惩罚
本文提出了一种基于异步并行贝叶斯优化的方法 PLAyBOOK，可以使用并行计算更高效地进行超参数调优，并通过实证研究表明，异步并行 BO 往往在时钟时间和函数评估次数方面优于同步批量 BO。
- 零阶异步双随机算法与方差缩减
本文提出了一种使用方差缩减的异步双随机零阶优化算法 (AsyDSZOVR)，应用于光滑但不一定是凸函数的有限和问题，证明了该算法将收敛速度从 O（1 /√T）提高到了 O（1 / T），优于现有算法的最佳结果，并且也超越了顺序随机零阶优化算 - 异步多任务学习
本文提出了一种分布式和异步优化的多任务学习框架，该框架能够有效地解决数据存储在不同地点时的挑战，同时能够提高多任务学习模型的泛化性能。实证研究表明本文提出的方法在合成和实际数据集上均表现出高效和有效的性能。
- 分布式同步 SGD 的再探讨
本文研究了分布式训练深度学习模型时采用同步优化的可行性，发现同步优化虽然会浪费一些等待时间，但采用备用工作者的方式可以避免异步噪声并加速收敛，同时能够在保证准确性的前提下提高测试准确率。