边缘智能允许资源密集型深度神经网络进行推理，而无需传输原始数据，解决了消费者物联网设备中的数据隐私问题。我们提出了一种在 TrustZone 中进行先进模型部署的新方法，确保在模型推理过程中综合保护隐私。我们设计了一种内存高效的管理方法，支持内存密集型推理，通过调整内存优先级，有效地减少内存泄漏风险和内存冲突，并在受信任的操作系统中进行了 32 行代码的修改。此外，我们利用了两个小型库：S-Tinylib（2,538 行代码），一个小型深度学习库，和 Tinylibm（827 行代码），一个小型数学库，以支持在受信任执行环境中的高效推理。我们在 Raspberry Pi 3B + 上实现了一个原型，并使用三个知名的轻量级 DNN 模型进行了评估。实验结果表明，与在 TEE 中使用非内存优化方法相比，我们的设计能够将推理速度提高 3.13 倍，并降低功耗超过 66.5%。

Mar, 2024

通过在设备上进行机器学习引入了新的安全挑战，研究人员提出了 TEE-Shielded DNN 划分的解决方案，通过将 DNN 模型划分为两部分并将隐私敏感的部分保护在 TEE 内，从而提供了与将整个 DNN 模型放入 TEE 中相同的安全保护，但开销减少了 10 倍，并且没有准确度损失。

Oct, 2023

本研究提出了一种使用受信任的执行环境（TEE）保护机器学习模型敏感层的新方法 GradSec，无需将大部分模型放入 TEE，从而在减小 TEB 大小和降低总体训练时间方面超过现有框架，能够有效地防止由于推理攻击泄露的隐私数据。

Aug, 2022

本研究探索了使用 Trusted Execution Environments（TEE）优化深度神经网络执行的问题，提出了一种名为 Slalom 的框架，用于实现基于 TEE 架构的有效且私密的外包计算，实验结果表明 Slalom 的执行性能在特定条件下有显著提升。

Jun, 2018

TBNet 是一种基于 TEE 的防御框架，从神经结构的角度保护 DNN 模型，利用非受信 Rich Execution Environment (REE) 中的计算资源减少延迟并利用物理隔离的 TEE 保护模型，在树莓派上的实验结果表明 TBNet 以较低的成本实现了高效的模型保护。

May, 2024

Tempo 是首个与 TEE 和分布式 GPU 合作的基于云的深度学习系统，通过引入以排列为基础的隐匿算法以盲化输入和模型参数，并提出了一种优化机制来减少加密操作，从而在保护模型隐私的同时加速了深度神经网络的训练，实验证明 Tempo 优于基准方法并提供足够的隐私保护。

Jan, 2024

本篇论文提出了一种用于合作、隐私保护分析的深度神经网络混合方法，使用边缘处理的思想，在保持效益的同时，有效减少了不必要、潜在敏感信息的级别。利用 Siamese 微调技术，可以确保用户设备只带有主任务所需的必要信息，并防止数据的二次推断。

Mar, 2017

提出了一种名为 “Privacy Partitioning” 的方法，通过将机器学习模型拆分并部署到本地设备和远程服务器中，保护用户数据，防止对状态最先进的深度网络的中间状态进行攻击并推断出隐私敏感的输入。（该方法）能够在不影响分类准确性的情况下有效削弱攻击者获得隐私敏感信息的能力。

Dec, 2018

本文提出了一种基于神经元级别的轻量级、实用的边缘设备模型保护方法，即 EdgePro，该方法使用一些特定神经元作为授权神经元，并将它们的激活值设置为锁定值，并在训练过程中将神经元输出缩放为密码，从而保护模型安全，实现正确的解密需要满足密码匹配的条件。实验结果表明，EdgePro 的推理时间增加只有先进方法的 60％，而精度损失小于 1％。

Mar, 2023

本文探讨了深度学习图像分类管道中推断输入的生命周期，提出了一种三元模型分区机制来减轻深度学习场景中存在的信息泄露问题，并在分别考虑不同网络深度和复杂程度的三个代表性 ImageNet 级别深度学习模型上进行了全面的安全和性能评估，验证了云上部署机密推理服务的可行性。

Jul, 2018