使用可信执行环境进行机器学习服务中的隐私保护推断

Dec, 2019

Privacy-Preserving Inference in Machine Learning Services Using Trusted Execution Environments

Krishna Giri Narra, Zhifeng Lin, Yongqin Wang, Keshav Balasubramaniam, Murali Annavaram

TL;DROrigami 提供了一种隐私保护的推断方法，可用于大型深度神经网络（DNN）模型，通过隔离执行、密码学盲化和加速器计算的组合来实现。

Abstract

This work presents origami, which provides privacy-preserving inference for large deep neural network (DNN) models through a combination o

发现论文，激发创造

本研究探索了使用 Trusted Execution Environments（TEE）优化深度神经网络执行的问题，提出了一种名为 Slalom 的框架，用于实现基于 TEE 架构的有效且私密的外包计算，实验结果表明 Slalom 的执行性能在特定条件下有显著提升。

Jun, 2018

本文探讨了深度学习图像分类管道中推断输入的生命周期，提出了一种三元模型分区机制来减轻深度学习场景中存在的信息泄露问题，并在分别考虑不同网络深度和复杂程度的三个代表性 ImageNet 级别深度学习模型上进行了全面的安全和性能评估，验证了云上部署机密推理服务的可行性。

Jul, 2018

Myelin 是一种深度学习框架，它结合了安全和隐私保护原则，使用可信硬件区域和差分隐私等技术以实现完全私密的机器学习模型训练。

Jul, 2018

本篇论文提出了一种用于合作、隐私保护分析的深度神经网络混合方法，使用边缘处理的思想，在保持效益的同时，有效减少了不必要、潜在敏感信息的级别。利用 Siamese 微调技术，可以确保用户设备只带有主任务所需的必要信息，并防止数据的二次推断。

Mar, 2017

提出了一种名为 “Privacy Partitioning” 的方法，通过将机器学习模型拆分并部署到本地设备和远程服务器中，保护用户数据，防止对状态最先进的深度网络的中间状态进行攻击并推断出隐私敏感的输入。（该方法）能够在不影响分类准确性的情况下有效削弱攻击者获得隐私敏感信息的能力。

Dec, 2018

Proteus 是一种新机制，可以在保护模型架构的同时进行模型优化，通过将计算图分割为子图并将每个子图隐藏在生成的大量逼真子图池中，有效地隐藏模型，确保保密性并且不影响性能优化机会。

Apr, 2024

本文研究了分布式深度学习的多种方法，以保护数据的机密性，同时还允许服务器训练模型。在神经网络的背景下，比较了联邦学习，分离式学习和大批量随机梯度下降等多种方法，以及差分隐私、同态加密、遗忘传输和混淆电路等安全方法，讨论了它们在计算资源、数据泄露和通信效率方面的优缺点，并分享了未来的趋势。

Dec, 2018

本研究提出了一种基于 Intel SGX 实现的可扩展协作机器学习系统 Citadel，采用分布式培训和零和掩码等技术，实现数据和模型所有者的隐私保护。

May, 2021

在这篇论文中，我们介绍了一种名为 Ensembler 的可扩展框架，该框架旨在显著增加对抗方进行模型逆推攻击的难度，从而实现对数据隐私的保护，并通过与基本的高斯噪声相结合，有效地保护图像免受重构攻击，其识别水平甚至低于某些严格环境下的人类性能，并显著优于缺乏 Ensembler 框架的基准方法。

Jan, 2024

本文提出了一种通过差分隐私保护技术，结合深度神经网络、迁移学习和集成学习，实现在医疗保健领域下针对物联网、边缘计算和云计算融合的框架。该框架可用于在边缘服务器上进行本地模型训练以提高模型精度，并通过集成多个本地模型生成高精度的最终模型，同时保护敏感的私人数据。

May, 2023