May, 2024

TBNet: 用于可信执行环境中深度神经网络模型保护的神经结构防御框架

PDF
TL;DRTBNet 是一种基于 TEE 的防御框架，从神经结构的角度保护 DNN 模型，利用非受信 Rich Execution Environment (REE) 中的计算资源减少延迟并利用物理隔离的 TEE 保护模型，在树莓派上的实验结果表明 TBNet 以较低的成本实现了高效的模型保护。
trusted execution environmentsdnn modelstbnettee-based defense frameworkneural architectural perspective
发现论文，激发创造
  • DarkneTZ: 边缘可信执行环境技术实现模型隐私保护

    DarkneTZ 是一个使用边缘设备的可信执行环境（TEE）和模型分区相结合的框架，旨在限制面向深度神经网络（DNN）的攻击面，并评估了其 CPU 执行时间和内存使用情况。

    Apr, 2020

  • Slalom：受信任硬件中神经网络的快速、可验证和私有执行

    本研究探索了使用 Trusted Execution Environments（TEE）优化深度神经网络执行的问题，提出了一种名为 Slalom 的框架，用于实现基于 TEE 架构的有效且私密的外包计算，实验结果表明 Slalom 的执行性能在特定条件下有显著提升。

    Jun, 2018

  • 基于 TrustZone 启用的消费者物联网设备上的高效内存和安全的 DNN 推理

    边缘智能允许资源密集型深度神经网络进行推理，而无需传输原始数据，解决了消费者物联网设备中的数据隐私问题。我们提出了一种在 TrustZone 中进行先进模型部署的新方法，确保在模型推理过程中综合保护隐私。我们设计了一种内存高效的管理方法，支持内存密集型推理，通过调整内存优先级，有效地减少内存泄漏风险和内存冲突，并在受信任的操作系统中进行了 32 行代码的修改。此外，我们利用了两个小型库：S-Tinylib（2,538 行代码），一个小型深度学习库，和 Tinylibm（827 行代码），一个小型数学库，以支持在受信任执行环境中的高效推理。我们在 Raspberry Pi 3B + 上实现了一个原型，并使用三个知名的轻量级 DNN 模型进行了评估。实验结果表明，与在 TEE 中使用非内存优化方法相比，我们的设计能够将推理速度提高 3.13 倍，并降低功耗超过 66.5%。

    Mar, 2024

  • 使用 ARM TrustZone 防御推理攻击的联邦学习系统保护

    本研究提出了一种使用受信任的执行环境（TEE）保护机器学习模型敏感层的新方法 GradSec，无需将大部分模型放入 TEE，从而在减小 TEB 大小和降低总体训练时间方面超过现有框架，能够有效地防止由于推理攻击泄露的隐私数据。

    Aug, 2022

  • 无隐私地退却：关于基于 TEE 保护的 DNN 分区在设备上机器学习中的（不）安全性

    通过在设备上进行机器学习引入了新的安全挑战，研究人员提出了 TEE-Shielded DNN 划分的解决方案，通过将 DNN 模型划分为两部分并将隐私敏感的部分保护在 TEE 内，从而提供了与将整个 DNN 模型放入 TEE 中相同的安全保护，但开销减少了 10 倍，并且没有准确度损失。

    Oct, 2023

  • TBT: 基于位木马的有针对性神经网络攻击

    本研究提出了一种新的目标二进制特洛伊（TBT）方法，为实现模型的恶意攻击，通过比特翻转攻击将特定的神经特洛伊插入到深度神经网络中。研究表明，只需利用可用的比特翻转技术（即行锤），翻转几个易受攻击的比特就可以将功能完好的 DNN 模型转化为特洛伊感染的模型，并实现将测试图像的 92％分类到目标类的目的。

    Sep, 2019

  • 云端神经网络训练中的保密性保护

    Tempo 是首个与 TEE 和分布式 GPU 合作的基于云的深度学习系统，通过引入以排列为基础的隐匿算法以盲化输入和模型参数，并提出了一种优化机制来减少加密操作，从而在保护模型隐私的同时加速了深度神经网络的训练，实验证明 Tempo 优于基准方法并提供足够的隐私保护。

    Jan, 2024

  • 基于神经网络的带真值表的规则模型

    通过结合基于规则的模型的全局和精确可解释性属性与深度神经网络的高性能，提出了一种名为 Truth Table rules (TT-rules) 的神经网络框架，可将神经网络有效转化为基于规则的模型，并在保持性能和复杂性平衡的同时，实现对大型表格数据集的适配。

    Sep, 2023

  • MTDeep: 以移动目标防御提升深度神经网络抵御对抗攻击的安全性

    本文提出了一种利用 Moving Target Defense（MTD）的元防御策略来提高深度神经网络（DNNs）在视觉分类任务中的鲁棒性，其中通过将策略交互组成 Bayesian Stackelberg Game（BSG）来确定选取哪个训练好的神经网络，实验证明 MTDeep 可以有效降低 MNIST、FashionMNIST 和 ImageNet 等数据集中被扰动图像的错误分类率，同时保持对于合法测试图像的高分类准确率，并且 MTDeep 能够与任何现有的防御机制一起使用。

    May, 2017

  • TT-TFHE: 一个支持环上完全同态加密的神经网络结构

    TT-TFHE 是一个基于神经网络的同态加密框架，可以有效将 TFHE 用于表格和图像数据集中，该框架在加密数据推断的时间和准确性方面表现出色，特别是相对于其他 TFHE 设置和 HE 变体。

    Feb, 2023