Chiron：隐私保护机器学习即服务

Mar, 2018

Chiron: Privacy-preserving Machine Learning as a Service

Tyler Hunt, Congzheng Song, Reza Shokri, Vitaly Shmatikov, Emmett Witchel

TL;DRChiron 是一个基于 SGX 的系统，用于实现隐私保护的机器学习服务，通过使用 Ryoan 沙箱来限制服务提供商的无信任模型创建代码以防止其泄露训练数据来实现数据保密和模型保密。

Abstract

Major cloud operators offer machine learning (ML) as a service, enabling customers who have the data but not ML expertise or infrastructure to train predictive models on this data. Existing ML-as-a-service platforms require users to reveal all training data to the service operator. We design, implement, and evaluate Chiron, a system for privacy-preserving ma

privacy-preserving machine learning machine learning as a service data confidentiality sgx enclaves distributed training

发现论文，激发创造

多源私有数据上的高效深度学习

Myelin 是一种深度学习框架，它结合了安全和隐私保护原则，使用可信硬件区域和差分隐私等技术以实现完全私密的机器学习模型训练。

Jul, 2018

Citadel：使用 SGX 技术保护协作学习的数据隐私和模型保密性

本研究提出了一种基于 Intel SGX 实现的可扩展协作机器学习系统 Citadel，采用分布式培训和零和掩码等技术，实现数据和模型所有者的隐私保护。

May, 2021

使用可信执行环境进行机器学习服务中的隐私保护推断

Origami 提供了一种隐私保护的推断方法，可用于大型深度神经网络（DNN）模型，通过隔离执行、密码学盲化和加速器计算的组合来实现。

Dec, 2019

MLCapsule: 机器学习服务的离线安全部署

本文提出了 MLCapsule，它是一种机器学习离线部署的安全方法，确保数据隐私和模型安全。同时，MLCapsule 与离线应用程序兼容，并提供了对高级攻击 (如模型窃取、逆向工程和成员推断) 的防护。

Aug, 2018

三元模型分区实现机密推理

本文探讨了深度学习图像分类管道中推断输入的生命周期，提出了一种三元模型分区机制来减轻深度学习场景中存在的信息泄露问题，并在分别考虑不同网络深度和复杂程度的三个代表性 ImageNet 级别深度学习模型上进行了全面的安全和性能评估，验证了云上部署机密推理服务的可行性。

Jul, 2018

数据混淆实现隐私保护机器学习

该论文提出了一种新的通用方法 —— 混淆函数，可在不泄露机器学习训练数据的前提下保护其中的隐私信息，并成功地抵御了四种现有的机器学习隐私攻击。

Jul, 2018

医疗隐私保护机器学习：挑战与未来视角

本文综述了隐私保护机器学习在医疗保健领域中的应用，主要关注隐私保护的训练和推断，总结了现有趋势，识别了挑战，并讨论了未来研究方向。研究旨在引导隐私和高效的机器学习模型在医疗保健中的应用，并将研究成果转化为现实应用。

Mar, 2023

云基 AI 服务的隐私和安全影响研究

云生态系统中的隐私和安全论文指出，解决机器学习模型引入的风险存在差距，通过调查 AIaaS 领域，提出了一种分类法来全面检查 ML 模型的创作者和消费者所面临的风险及其已知防御措施，为提供方和消费方提供了基础解决方案。

Jan, 2024

基于加性同态加密的深度神经网络用于非对称协作机器学习

本文提出一种不对称协作机器学习的实用方案，其中一方拥有数据，另一方仅拥有标签，提出了一种新的保护隐私的架构方案，可以有效地帮助两方合作训练深度学习模型。

Jul, 2020

Hawk：使用安全查找表计算的精确且快速的隐私保护机器学习

训练具有多个实体的机器学习模型，并且在没有直接数据共享的情况下，可以解决由于业务、法律或道德限制而受阻的应用。本文设计和实施了新的隐私保护机器学习协议，用于逻辑回归和神经网络模型。我们采用了两个服务器模型，在数据所有者之间进行数据密钥共享，由这两个服务器进行联合数据的模型训练和评估。现有方法中存在的低效和不准确的重要方法是使用 Yao 噪声电路来计算非线性激活函数的来源。我们提出了基于密钥共享的查找表的计算非线性函数的新方法，既提供了计算效率，又提高了准确性。此外，我们还提出了一种针对隐私保护机器学习的放宽安全措施的探索。我们认为，在计算过程中，虽然有关于查找表访问模式的一些信息被透露，但它仍然保持 epsilon-dX 隐私。利用这种放松可显著减少训练所需的计算资源。我们提出了针对这种放松安全范式量身定制的加密协议，并定义和分析泄漏。我们的评估结果表明，我们的逻辑回归协议比 SecureML 快 9 倍，神经网络训练速度比 SecureML 快 688 倍。值得注意的是，我们的神经网络在 15 个周期内在 MNIST 数据集上实现了 96.6% 的准确率，超过了以往在相同架构下准确率为 93.4% 的基准。

Mar, 2024