Jan, 2013

概念漂移中的分布式在线分类

HTML
PDF
TL;DR研究分布式在线学习算法在静态和非静态环境下的泛化能力，推导连通学习者网络中每个节点达到的超额风险界限并研究扩散策略相对于个体非合作处理的性能优势。通过广泛的模拟来说明结果。
发现论文，激发创造
  • 分布式自主在线学习：遗憾和内在隐私保护特性

    本文研究了基于分布式数据源的在线学习，提出了一种新的算法，可以保障网络中的隐私。该算法使用通信网络中的本地数据源更新本地参数，并且在网络中的一个小子集周期性地交换信息。我们导出了强凸函数的遗憾界，我们的算法有内在的隐私保护性质，且证明了网络中的隐私保护的必要和充分条件。

    Jun, 2010

  • 基于合作上下文臂银行算法的分布式在线学习

    本文提出了一种新的分布式在线学习框架，将学习者建模为合作的情境赌博机，分析了分布式在线学习算法和完全知识基准的效率，研究表明后者在时间上失误是亚线性的，该理论框架可用于许多实际应用中，包括大数据挖掘、监视传感器网络事件检测和分布式在线推荐系统。

    Aug, 2013

  • 社交网络中动态参数的在线学习

    研究在线学习在动态环境中的应用，通过考虑社交网络等输入变量来降低最小化损失函数，并建立针对真实状态的两个更新机制，并对估计误差和后悔进行建模。

    Oct, 2013

  • 使用随机傅里叶特征在RKH空间中进行网络分布式在线学习

    我们提出了一种新颖的扩散方案，用于在网络上进行基于内核的在线学习，通过使用Random Fourier Features，将解决方案近似为固定大小的向量，并提供了渐近收敛和网络遗憾的限制条件。

    Mar, 2017

  • 分布式特征下的监督学习

    本研究探讨了在大规模数据集和大维特征空间场景下的学习问题，通过考虑网络中代理人传播的特征信息，并提出了一种新颖的动态扩散构造、管道策略和方差减少技术相结合的分布式学习算法，能够实现在原始域中的线性收敛和全局最小值解。

    May, 2018

  • 非凸环境下的分布式学习 -- 第二部分：从鞍点中多项式逃脱

    分布式学习算法中应用了扩散策略，能够在限制条件较少的情况下从严格的鞍点中逃脱并返回次二级稳定点.

    Jul, 2019

  • 分布式学习下线性回归的泛化误差

    本研究针对分布式学习进行了线性回归分析，发现当节点估计未知数接近观测数时，与集中化解决方案相比，分布式解决方案的泛化误差大幅增加。

    Apr, 2020

  • 分散式多任务学习的精确子空间传输

    该论文提出了一种针对分布式学习的新方法，该分布式学习方法使用多任务学习中的精确扩散算法，可在具有不同目标或数据的代理之间建立关系，而无需强制执行共识机制。经过数值验证表明，该算法表现比基于近似投影的传统算法更好。

    Apr, 2023

  • 随机网络上的在线分布式学习

    在多智能体系统中，为解决分布式学习问题，本研究提出了一种名为DOT-ADMM的算法，通过在线学习、异步智能体计算、不稳定与受限通信以及近似本地计算等方法，保证了算法的收敛性和稳健性。

    Sep, 2023

  • 分布式学习中的平坦性与优化之间的权衡

    该论文提出了一个理论框架，用于评估和比较梯度下降算法在非凸环境中围绕局部极小值的行为方面的分布学习性能。它发现分散学习策略能够更快地逃离局部极小值并更有利地收敛到更平坦的极小值，从而提高了分类准确性。

    Jun, 2024