Feb, 2024

分布式学习中的私有知识共享：一项调研

PDF
TL;DR人工智能的崛起已经在许多行业中引发了革命性的变革，其广泛应用导致了 AI 和其底层数据在许多智能系统中的分布。本文针对分布式学习中的私有知识共享提供了一项深入调查，检验了在主要的分布式学习架构中使用的各种知识组件。通过分析，我们揭示了在分布式环境中使用这些组件时可能出现的最关键的安全漏洞。我们进一步确定和研究了保护这些知识组件隐私和防止恶意方干预或访问知识信息的防御策略。最后，我们强调了分布式学习中知识共享的一些关键限制，并探索了未来研究的潜在途径。
artificial intelligencedistributed learningknowledge sharingprivacy preservationsecurity vulnerabilities
发现论文，激发创造
  • 可信分布式 AI 系统：鲁棒性、隐私和治理

    新兴分布式人工智能系统通过稳健性保证、隐私保护和公平意识在分布式学习中改善了安全、隐私和公平的问题。本文提供了分布式学习的不同架构概述、围绕对抗攻击、隐私保护和公平治理的对策分类，并讨论了面临的挑战和未来研究方向。

    Feb, 2024

  • 隐私保护机器学习的分布式信任框架

    本文介绍了一种分布式基础设施，用于实现分布式代理之间的点对点信任，从而协同执行保护隐私的机器学习工作流程。使用 Hyperledger Aries，Decentralised Identifiers (DIDs) 和 Verifiable Credentials (VCs) 建立了一个分布式信任体系，促进与心理健康护理相关的联邦学习工作流程。

    Jun, 2020

  • 分布式机器学习调查

    本文介绍机器学习技术的发展以及为了应对更加复杂的应用而需要分布式系统来分担机器学习的工作负担，但分布式系统带来的挑战在于高效地并行训练过程和创建一个连贯的模型。文中提供了分布式机器学习领域当前的最新进展和系统概述。

    Dec, 2019

  • 人工智能与知识崩溃问题

    通过降低获取知识成本，人工智能可能对公众理解产生逆效应，最终导致知识塌缩，损害创新和人类理解与文化的丰富性。我们提供一个简单模型来研究学习者或创新者选择使用传统方法还是依赖打折的人工智能辅助过程的条件，并发现人工智能生成内容的打折将使公众信仰与真实事实相差 2.3 倍。最后，我们考虑进一步的研究方向来对抗这种结果。

    Apr, 2024

  • 联邦学习的威胁：综述

    本文提供了一种简洁的介绍联邦学习的概念，并使用一个唯一的分类法来涵盖针对联邦学习的威胁模型和两个主要的攻击方法：1) 污染攻击和 2) 推理攻击，探讨了向更强大的隐私保护方向发展的有前途的未来研究方向.

    Mar, 2020

  • 从分布式机器学习到分布式深度学习的调查

    本文就分布式机器学习算法进行了全面的调研，综述了当前的技术发展前景和所存在的限制。

    Jul, 2023

  • 自组织民主化学习：迈向大规模分布式学习系统

    本文提出了一种分布式学习算法 DemLearn，以实现 Dem-AI 哲学中分布式机器学习系统所需的政治化学习方法，其采用自组织分层结构机制、联想聚类机制以及学习机制，并在 MNIST、Fashion-MNIST、FE-MNIST 和 CIFAR-10 数据集上测试，结果表明此算法的泛化性能在学习模型方面显著优于传统的 FL 算法。

    Jul, 2020

  • 无窥视：私有分布式深度学习综述

    本文研究了分布式深度学习的多种方法，以保护数据的机密性，同时还允许服务器训练模型。在神经网络的背景下，比较了联邦学习，分离式学习和大批量随机梯度下降等多种方法，以及差分隐私、同态加密、遗忘传输和混淆电路等安全方法，讨论了它们在计算资源、数据泄露和通信效率方面的优缺点，并分享了未来的趋势。

    Dec, 2018

  • 联邦机器学习：概念与应用

    本文提出，为了解决 AI 面临的数据孤岛和数据隐私安全的问题，可以通过构建安全联邦学习架构，包括水平联邦学习、垂直联邦学习和联邦迁移学习方案，并通过使用联邦机制构建数据网络，以允许在不损害用户隐私的情况下共享知识。

    Feb, 2019

  • 从分布式机器学习到联邦学习：一项调查

    通过对联邦学习的现有作品进行全面调查，提出功能框架和分类学相关技术，以及联邦学习系统的分布式培训，数据通信和安全性。

    Apr, 2021