Oct, 2023

无隐私地退却：关于基于 TEE 保护的 DNN 分区在设备上机器学习中的（不）安全性

PDF
TL;DR通过在设备上进行机器学习引入了新的安全挑战，研究人员提出了 TEE-Shielded DNN 划分的解决方案，通过将 DNN 模型划分为两部分并将隐私敏感的部分保护在 TEE 内，从而提供了与将整个 DNN 模型放入 TEE 中相同的安全保护，但开销减少了 10 倍，并且没有准确度损失。
on-device mlwhite-box attackstee-shielded dnn partitionprivacy-stealing attacksteeslice
发现论文，激发创造
  • DarkneTZ: 边缘可信执行环境技术实现模型隐私保护

    DarkneTZ 是一个使用边缘设备的可信执行环境（TEE）和模型分区相结合的框架，旨在限制面向深度神经网络（DNN）的攻击面，并评估了其 CPU 执行时间和内存使用情况。

    Apr, 2020

  • 基于 TrustZone 启用的消费者物联网设备上的高效内存和安全的 DNN 推理

    边缘智能允许资源密集型深度神经网络进行推理，而无需传输原始数据，解决了消费者物联网设备中的数据隐私问题。我们提出了一种在 TrustZone 中进行先进模型部署的新方法，确保在模型推理过程中综合保护隐私。我们设计了一种内存高效的管理方法，支持内存密集型推理，通过调整内存优先级，有效地减少内存泄漏风险和内存冲突，并在受信任的操作系统中进行了 32 行代码的修改。此外，我们利用了两个小型库：S-Tinylib（2,538 行代码），一个小型深度学习库，和 Tinylibm（827 行代码），一个小型数学库，以支持在受信任执行环境中的高效推理。我们在 Raspberry Pi 3B + 上实现了一个原型，并使用三个知名的轻量级 DNN 模型进行了评估。实验结果表明，与在 TEE 中使用非内存优化方法相比，我们的设计能够将推理速度提高 3.13 倍，并降低功耗超过 66.5%。

    Mar, 2024

  • Slalom：受信任硬件中神经网络的快速、可验证和私有执行

    本研究探索了使用 Trusted Execution Environments（TEE）优化深度神经网络执行的问题，提出了一种名为 Slalom 的框架，用于实现基于 TEE 架构的有效且私密的外包计算，实验结果表明 Slalom 的执行性能在特定条件下有显著提升。

    Jun, 2018

  • 隐私分区：在深度学习推理阶段保护用户数据

    提出了一种名为 “Privacy Partitioning” 的方法，通过将机器学习模型拆分并部署到本地设备和远程服务器中，保护用户数据，防止对状态最先进的深度网络的中间状态进行攻击并推断出隐私敏感的输入。（该方法）能够在不影响分类准确性的情况下有效削弱攻击者获得隐私敏感信息的能力。

    Dec, 2018

  • TBNet: 用于可信执行环境中深度神经网络模型保护的神经结构防御框架

    TBNet 是一种基于 TEE 的防御框架，从神经结构的角度保护 DNN 模型，利用非受信 Rich Execution Environment (REE) 中的计算资源减少延迟并利用物理隔离的 TEE 保护模型，在树莓派上的实验结果表明 TBNet 以较低的成本实现了高效的模型保护。

    May, 2024

  • 三元模型分区实现机密推理

    本文探讨了深度学习图像分类管道中推断输入的生命周期，提出了一种三元模型分区机制来减轻深度学习场景中存在的信息泄露问题，并在分别考虑不同网络深度和复杂程度的三个代表性 ImageNet 级别深度学习模型上进行了全面的安全和性能评估，验证了云上部署机密推理服务的可行性。

    Jul, 2018

  • 云端神经网络训练中的保密性保护

    Tempo 是首个与 TEE 和分布式 GPU 合作的基于云的深度学习系统，通过引入以排列为基础的隐匿算法以盲化输入和模型参数，并提出了一种优化机制来减少加密操作，从而在保护模型隐私的同时加速了深度神经网络的训练，实验证明 Tempo 优于基准方法并提供足够的隐私保护。

    Jan, 2024

  • 使用 ARM TrustZone 防御推理攻击的联邦学习系统保护

    本研究提出了一种使用受信任的执行环境（TEE）保护机器学习模型敏感层的新方法 GradSec，无需将大部分模型放入 TEE，从而在减小 TEB 大小和降低总体训练时间方面超过现有框架，能够有效地防止由于推理攻击泄露的隐私数据。

    Aug, 2022

  • 盐加入推理：在移动计算中提升隐私并保持分裂推理的效率

    通过分割推理和 Salted DNNs 方法，满足了边缘计算中保护输入和输出隐私的要求，并在保持了类似标准 DNN 的准确性和效率的同时，为未来研究提供了一个基准。

    Oct, 2023

  • 论实现保护隐私的最新边缘智能技术

    本文评价了现有的隐私保护 DNN 推理技术的兼容性，并重点强调了秘密共享在边缘计算环境下的适用性。同时，还讨论了模型压缩方法在实现具有最先进性能的 DNN 秘密共享方面的未来角色。

    Feb, 2023