使用 SPDZ 进行机器学习的安全计算
研究利用安全多方计算技术,设计和实现了多个安全多方计算友好的机器学习基元,包括类别权重调整和可并行近似激活函数,以解决在基因组研究中由于涉及到多方数据协作,数据隐私和机密性等问题。该研究在 iDASH2019 安全基因组分析竞赛的第四组别获得第一名。
Feb, 2020
本论文介绍 CrypTen:一种软件框架,通过现代机器学习框架中的常见抽象(如张量计算、自动差分、模块化神经网络)暴露出流行的安全多方计算基元,可执行现代机器学习模型的高效私有评估,并为文本分类、语音识别和图像分类等最新模型提供了一些基准测试。
Sep, 2021
SSNet 是第一个基于 Shamir's secret sharing 的 MPC-based ML framework,能够扩展计算参与方数量,减少通信开销,并在性能上显著提升,与最先进的 MPC frameworks 相比,速度提高了 3 倍至 14 倍。
Jun, 2024
本文提出了一个针对安全多方计算(secure multi-party computation)在 TensorFlow 平台下的实验框架,并提供了一种开源的最新协议实现方式及具体案例,以及使用 typical 私有机器学习模型方面的基准测试结果。
Oct, 2018
使用多方计算的创新方法在保护数据和模型隐私的同时,通过简化低维 MLP 在有限重要数据子集上的训练,以及并行多阶段实现多方计算,实现了对目标模型的保密数据选择,并且相对于直接使用多方计算对目标模型进行评估,所提方法显著减少了所需时间,从数千小时降至几十小时,只在训练选择数据时准确率略微下降了 0.20%。
Oct, 2023
Spin 是一种 GPU 加速的多方计算 (MPC) 框架,支持多个计算方和一个不诚实的多数敌对设置。该框架提出了针对非线性函数的优化协议,以及用于注意力的几种新颖优化,允许 Spin 在不牺牲安全性的情况下执行复杂的 CNN 训练和 Transformer 推断。综合评估表明,Spin 在深度神经网络训练方面比现有技术快 2 倍。对于一个具有 1890 万参数的 Transformer 模型的推断,Spin 的注意力特定优化可实现更好的效率、更少的通信和更高的准确性。
Feb, 2024
本文介绍了一种称为联邦学习的新机器学习方法,并使用多方计算来实现 FL 模型的隐私保护模型聚合,以实现在 IoT 智能制造平台中利用各自数据集进行联合训练的效果。
May, 2020
提出了一种用于隐私保护机器学习的安全四方协议和框架,在广泛使用的四种机器学习算法上进行了应用,并在离线 - online 模式下操作。实验结果表明,在 LAN 和 WAN 环境下,与现有方法相比,该框架在训练和预测阶段的效果提高了 187 倍和 158 倍。
Dec, 2019
这项工作主要关注机器学习模型的训练阶段,在这个阶段对用户数据的隐私保护至关重要。我们提供了坚实的理论背景,以便更容易理解当前方法及其局限性。此外,我们对最新的模型训练框架进行了详细比较,提供了在标准基准上独特属性和性能的全面对比。我们重现了一些论文的结果,并考察现有作品对开放科学的支持程度,认为我们的工作就提高了关于隐私保护机器学习在理论进展和实际应用之间差距的意识,特别是在开放源代码可用性、可重复性和可用性方面。
Mar, 2024