May, 2023

可扩展的最优边缘分布机器

TL;DR本文提出的可扩展ODM方法,在拥有非线性内核的情况下,引入了分布感知分区方法以使得局部训练集更容易逐渐逼近全局最优解,并在使用线性内核时,利用了通信高效的SVRG算法来进一步加速训练进程。大量实验证明,该提出的方法具有高度的计算效率,几乎不会影响泛化性能。