Dec, 2023

现代机器学习的景观：机器学习，分布式学习和联邦学习的综述

PDF
TL;DR现代机器学习的综述，包括高级算法、应用和框架，介绍了并行分布式学习、深度学习和联邦学习等内容。
machine learningdeep learningalgorithmsapplicationsframeworks
发现论文，激发创造
  • 分布式机器学习调查

    本文介绍机器学习技术的发展以及为了应对更加复杂的应用而需要分布式系统来分担机器学习的工作负担，但分布式系统带来的挑战在于高效地并行训练过程和创建一个连贯的模型。文中提供了分布式机器学习领域当前的最新进展和系统概述。

    Dec, 2019

  • 从分布式机器学习到联邦学习：一项调查

    通过对联邦学习的现有作品进行全面调查，提出功能框架和分类学相关技术，以及联邦学习系统的分布式培训，数据通信和安全性。

    Apr, 2021

  • 从分布式机器学习到分布式深度学习的调查

    本文就分布式机器学习算法进行了全面的调研，综述了当前的技术发展前景和所存在的限制。

    Jul, 2023

  • 探索联邦学习的机器学习模型：方法、性能和限制的综述

    分布式学习框架 - 联邦学习增强了个人数据隐私保护，允许协作研究且无需共享敏感数据；通过多源信息合作，提供更多种类的洞察力。本文是对隐私保护机器学习的系统性文献综述，通过 PRISMA 指南对近年来得出的有关联邦学习的监督 / 非监督机器学习算法、集成方法、元启发式方法、区块链技术和强化学习，以及联邦学习应用进行了广泛回顾。旨在为研究人员和实践者提供从机器学习角度对联邦学习的全面概述，并提供了一些开放问题和未来研究方向的讨论。

    Nov, 2023

  • 云、移动和边缘环境中的分布式学习综述

    在深度学习、卷积神经网络和大型语言模型的时代，机器学习模型变得越来越复杂，需要大量的计算资源进行推理和训练。为了解决这个挑战，分布式学习已经成为一种关键方法，通过在各种设备和环境中进行并行化来实现。本调查研究对分布式学习的领域进行了探索，涵盖了云端和边缘设置。我们深入研究了数据和模型并行性的核心概念，研究了如何在不同维度和层次上对模型进行分割以优化资源利用和性能。我们分析了针对不同层类型的各种分割方案，包括全连接层、卷积层和循环层，突出了计算效率、通信开销和内存限制之间的权衡。这项调查研究通过比较和对比不同背景下的分布式学习方法，为未来的研究和发展提供了宝贵的见解。

    May, 2024

  • 联邦机器学习：概念与应用

    本文提出，为了解决 AI 面临的数据孤岛和数据隐私安全的问题，可以通过构建安全联邦学习架构，包括水平联邦学习、垂直联邦学习和联邦迁移学习方案，并通过使用联邦机制构建数据网络，以允许在不损害用户隐私的情况下共享知识。

    Feb, 2019

  • 从联邦学习到雾计算学习：在异构无线网络上的分布式机器学习

    通过使用一种叫作 Fog learning 的新学习范式，从边缘设备到云服务器中智能地分布机器学习模型的训练，来增强联邦学习的三个重要维度：网络、异构性和邻近性，并考虑由各种接近程度异构设备组成的多层混合学习框架，通过设备到设备（D2D）通信进行协作学习，使其从联邦学习中用于参数传输的星型网络拓扑迁移到更分布式的规模。

    Jun, 2020

  • 联邦学习：挑战、方法和未来方向

    本文介绍联邦学习的独特特征和挑战，提供当前方法的概述，并概述了与各种研究社区相关的几个未来方向。

    Aug, 2019

  • 机器学习：算法、模型和应用

    该论文介绍了机器学习和深度学习的一些创新研究工作以及实际应用，并涉及股票交易、医疗保健系统和软件自动化等领域。

    Jan, 2022

  • 系统设计：朝着大规模联邦学习迈进

    本文描述了在移动设备领域基于 TensorFlow 构建的分布式机器学习方法 —— 联邦学习的高级设计，以及所面临的挑战、解决方案和未来研究方向。

    Feb, 2019