隐私敏感领域中联合学习的互惠证明

Mar, 2024

隐私敏感领域中联合学习的互惠证明

Provable Mutual Benefits from Federated Learning in Privacy-Sensitive Domains

Nikita Tsoy, Anna Mihalkova, Teodora Todorova, Nikola Konstantinov

TL;DR通过实现隐私保障和最终模型准确性之间的平衡，本文研究了何时以及如何设计一种对所有参与者都有利的联邦学习协议，并给出了在均值估计和凸随机优化等背景下存在互惠协议的必要和充分条件。此外，本文还设计了最大化最终模型准确性的协议，并通过合成实验验证了其优势。

Abstract

cross-silo federated learning (FL) allows data owners to train accurate machine learning models by benefiting from each others private datasets. Unfortunately, the model accuracy benefits of collaboration are often undermined by privacy defenses. Therefore, to incentivize client partic

cross-silo federated learning privacy guarantees end-model accuracy mutually beneficial protocols mean estimation

发现论文，激发创造

联邦学习的进展：模型、方法和隐私

本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

Feb, 2023

通过联邦学习增强隐私保护的协同信息共享 -- 以保险业为例

通过利用联邦学习来跨多个保险业数据集学习单个模型，而无需将数据集从一家公司共享到另一家公司，该报告展示了在改进索赔损失建模方面的益处。联邦学习的应用解决了有限数据量和数据多样性这两个最迫切问题，这些问题由于隐私问题、索赔事件的罕见性、缺乏信息性评级因素等造成。

Feb, 2024

具有域自适应的私有联邦学习

本文提出了一种基于联邦学习的机器学习分布式范例，可以在保护隐私的前提下进行多方联合重新训练共享模型，并通过用户级领域自适应来提高模型精度，实验结果表明在为 FL 模型强制实施差分隐私界限时，该技术可以更大程度地提升模型的准确性。

Dec, 2019

低成本零知识证明的安全可验证数据协作

我们提出了一种新颖且高效的解决方案 RiseFL，用于安全和可验证的数据协作，同时确保输入的隐私和完整性。

Nov, 2023

个性化联邦学习推进：群体隐私，公平与更多

本文介绍了在联邦学习框架中处理个性化、隐私保证和公平性三者之间的相互关系，通过引入 $d$-privacy 方法，提供个性化模型训练、形式上的隐私保证和显著优于传统联邦学习模型的群体公平性。

Sep, 2023

联邦学习的安全与隐私问题

分布式学习中的联邦学习存在安全和隐私挑战，本研究针对各类机器学习模型，包括大型语言模型，提出了安全和隐私挑战的综合分类，重点关注聚合器和参与者的攻击，包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击，同时提出了未来研究的新方向，旨在强化联邦学习系统以应对新兴安全风险并保护分布式学习环境中的敏感数据隐私。

Jul, 2023

公平差分隐私联邦学习框架

通过应用裁剪技巧与高斯机制来解决不包含验证数据的公平差分私有联邦学习框架的可能出现的偏见更新问题，同时审查了隐私和公平性在联邦学习中的相关工作，并强调了 MITIGATE 偏见和确保隐私的最新进展和方法。

May, 2023

联邦学习中的共享内容调查：模型效用、隐私泄露和通信效率的观点

通过从新的角度，即什么在联邦学习中共享，以模型效用、隐私泄露和通信效率为重点，系统调查了联邦学习方法的新分类、隐私攻击的脆弱性以及不同共享方法的性能与隐私保护的效力，并讨论了当前方法存在的潜在缺陷和未来改进的方向。

Jul, 2023

联邦学习：最新进展与应用的前沿综述

在机器学习系统中，通过联邦学习作为一个安全的分布式机器学习方法，有效提升隐私安全；它利用区块链技术将机器学习模型转移到边缘服务器，通过这种机制保证了集中式和分散式系统的高效处理和数据存储需求，强调可伸缩性、隐私考虑和成本有效的通信。本文对最近的联邦学习应用进行了分析和比较，以评估其效率、准确性和隐私保护。然而，鉴于联邦学习复杂且不断演化的特点，明确需要进一步研究来解决知识间的差距并有效应对该领域面临的挑战。在本文中，我们将最近的文献分为以下几个类别：隐私保护、资源分配、案例研究分析和应用，此外，在每个章节的末尾，我们还对参考文献中提出的开放领域和未来方向进行了总结，为研究人员提供了领域演进的深入视角。

Oct, 2023

混合风格近似下的高效跨域联邦学习

我们介绍了一种在硬件受限环境中用于实现客户端适应性的隐私保护、资源高效的联邦学习概念。通过在源数据上进行服务器模型预训练，并在低端客户端上对目标数据进行细调，我们的方法通过从源域和目标域数据近似的实例级特征统计的概率混合来简化本地客户端适应过程。适应参数传回到中央服务器后进行全局聚合，初步结果表明我们的方法在保持竞争性性能的同时降低了计算和传输成本。

Dec, 2023