长期数据共享在排他性攻击下

Jan, 2022

Long-term Data Sharing under Exclusivity Attacks

Yotam Gafni, Moshe Tennenholtz

TL;DR数据多样性和视野的拓展能够显著提高学习质量。云计算、区块链和政府计划等为提供共享数据建模服务的平台及机构也面临着 “排他性攻击”，针对回归和聚类等长期交互协议的研究表明，协议选择和攻击者 Sybil 身份控制的数量对脆弱性有决定性影响。

Abstract

The quality of learning generally improves with the scale and diversity of data. Companies and institutions can therefore benefit from building models over shared data. Many cloud and blockchain platforms, as well as government initiatives, are interested in providing this type of serv

learning data diversity cooperative efforts protocol vulnerability sybil identities

发现论文，激发创造

竞争对手之间的战略数据共享

该研究介绍了一种数据分享平衡框架，用于分析数据分享所带来的利益和损失，并研究了市场条件对合作动机的影响。研究结果表明，市场竞争的缩小和更难的学习任务会促进数据分享的合作性。

May, 2023

多方机器学习中的污染攻击及其缓解

本文讨论了在多方数据联合训练机器学习模型时，可能存在一方恶意注入污染数据导致模型性能下降的问题，并提出了采用对抗训练的方法可以避免此问题，同时保证各方数据的隐私安全。

Jan, 2019

GAN 下的深度模型：来自协作深度学习的信息泄露

本文研究了协作深度学习的隐私问题以及差分隐私技术的应用，结果发现目前的方法都无法保护参与者的训练数据隐私，因为我们提出了一种基于生成对抗网络的攻击方法。

Feb, 2017

协作学习中的意外特征泄漏利用

合作式机器学习及联邦学习等技术让多个参与者通过本地训练和定期更新模型来建立一个联合模型，但我们展示了这些更新泄露了关于参与者训练数据的信息并开发了被动和主动攻击来利用泄露，我们在各种任务，数据集和学习配置中评估我们的攻击，并分析其局限性和可能的防御。

May, 2018

规模安全分布式训练

本文提出了一种新颖的协议，用于安全的（拜占庭容错）分散式训练，强调通信效率。

Jun, 2021

多方机器学习中数据集属性泄露

该研究确认了安全多方机器学习会导致数据的属性泄露，包括敏感属性和整个数据集的属性，即使敏感属性未被训练，说明存在相关模型。

Jun, 2020

具有遗忘分布式差分隐私的抗串谋联邦学习

本研究提出了一种新的基于分布式差分隐私的隐私保护联合学习方法，其可以有效避免联合攻击，以及 “Sybil” 攻击，并给出了相应的安全性证明。在模拟的 5000 个分布式网络客户端上的实验结果表明，该协议执行速度快，学习准确率高，且具有良好的隐私保护性能。

Feb, 2022

基于区块链的联邦学习：激励数据共享与惩罚不诚实行为

该研究论文提出了一个综合框架，结合了区块链、智能合约和星际文件系统，通过在联邦学习中整合数据信任，以便安全地共享数据并提供激励、访问控制机制和惩罚任何不诚实的行为，实验证明该模型在提高联邦学习模型的准确性的同时确保数据共享过程的安全和公平性；论文还介绍了一种分散化的联邦学习平台，成功地使用区块链技术在 MNIST 数据集上训练了一个 CNN 模型，这个平台使多个工作器能够同时训练模型，同时保护数据的隐私和安全性，分散化的架构和区块链技术的应用允许工作器之间进行高效的通信和协作，该平台具备促进分散化机器学习并支持各个领域隐私保护合作的潜力。

Jul, 2023

基于区块链的隐私感知边缘智能数据共享：智能医疗视角

为了保护个人的健康数据隐私，提出了基于信任度的个性化差分隐私模型，并在区块链上构建社区模型以避免中毒攻击，并使用马尔可夫随机过程设计噪声相关性解耦机制防止关联攻击。

Jun, 2023

Helen：线性模型中的恶意安全合作学习

设计并构建了名称为 Helen 的系统，实现了协作学习，允许多方在不透露数据的情况下训练线性模型，相比现有的安全多方计算框架，Helen 可以实现高达五个数量级的性能提升，可以对抗更强的恶意攻击者。

Jul, 2019