使用 ARM TrustZone 防御推理攻击的联邦学习系统保护

MMAug, 2022

使用 ARM TrustZone 防御推理攻击的联邦学习系统保护

Shielding Federated Learning Systems against Inference Attacks with ARM TrustZone

Aghiles Ait Messaoud, Sonia Ben Mokhtar, Vlad Nitu, Valerio Schiavoni

TL;DR本研究提出了一种使用受信任的执行环境（TEE）保护机器学习模型敏感层的新方法 GradSec，无需将大部分模型放入 TEE，从而在减小 TEB 大小和降低总体训练时间方面超过现有框架，能够有效地防止由于推理攻击泄露的隐私数据。

Abstract

federated learning (FL) opens new perspectives for training machine learning models while keeping personal data on the users premises. Specifically, in FL, models are trained on the users devices and only model u

federated learning inference attacks trusted execution environments gradsec machine learning

发现论文，激发创造

DarkneTZ: 边缘可信执行环境技术实现模型隐私保护

DarkneTZ 是一个使用边缘设备的可信执行环境（TEE）和模型分区相结合的框架，旨在限制面向深度神经网络（DNN）的攻击面，并评估了其 CPU 执行时间和内存使用情况。

Apr, 2020

基于区块链的互联物联网可信执行环境下的安全聚合联邦学习

本文提出了一种基于区块链、Intel SGX 可信执行环境和联邦学习的框架，以安全地聚合工业物联网中的本地模型。框架中的区块链网络用于安全地聚合全局模型，并将其添加到分布式账本中以实现防篡改存储。经过多个不同的卷积神经网络模型和数据集的实验验证，该框架效果显著。

Apr, 2023

PPFL: 基于可信执行环境的隐私保护联邦学习

该论文提出并实现了一种基于隐私保护联合学习（PPFL）的框架，旨在通过利用受信任的执行环境（TEEs）对客户端进行本地训练，通过 TEEs 对服务器进行安全聚合，从而在联合学习中限制隐私泄漏，并达到显著的隐私保护与可比较的模型效用提升。

Apr, 2021

Slalom：受信任硬件中神经网络的快速、可验证和私有执行

本研究探索了使用 Trusted Execution Environments（TEE）优化深度神经网络执行的问题，提出了一种名为 Slalom 的框架，用于实现基于 TEE 架构的有效且私密的外包计算，实验结果表明 Slalom 的执行性能在特定条件下有显著提升。

Jun, 2018

联邦学习中的权力分立

TRUDA 是一种新型的跨边缘计算联邦学习系统，采用可信的去中心化聚合体系结构降低了单个聚合器的信息集中化，并通过以参数为粒度的分解和重新随机拼接来维护模型更新的安全性和隐私性。

May, 2021

住宅短期负荷预测的安全联邦学习框架

本研究提出一种基于梯度量化的差分隐私保护 Federated Learning 框架，旨在保障智能电表数据的隐私性及模型架构的安全性，有效防范 Byzantine 攻击，击败传统的 Fed-SGD 模型.

Sep, 2022

在受信任执行环境中减轻联邦学习中的对抗性攻击

这篇论文研究了联邦学习中的数据隐私保护和防御机制，使用了受信任执行环境和遏制对抗性样本的方法来提高模型的鲁棒性。

Sep, 2023

5G 网络安全联邦学习框架

本文提出了一种基于区块链的安全联邦学习框架，通过构建智能合约，自动执行防御策略，识别恶意攻击参与者，同时采用本地差分私有化技术，有效地防止中毒和成员推断攻击。

May, 2020

TBNet: 用于可信执行环境中深度神经网络模型保护的神经结构防御框架

TBNet 是一种基于 TEE 的防御框架，从神经结构的角度保护 DNN 模型，利用非受信 Rich Execution Environment (REE) 中的计算资源减少延迟并利用物理隔离的 TEE 保护模型，在树莓派上的实验结果表明 TBNet 以较低的成本实现了高效的模型保护。

May, 2024

基于 TrustZone 启用的消费者物联网设备上的高效内存和安全的 DNN 推理

边缘智能允许资源密集型深度神经网络进行推理，而无需传输原始数据，解决了消费者物联网设备中的数据隐私问题。我们提出了一种在 TrustZone 中进行先进模型部署的新方法，确保在模型推理过程中综合保护隐私。我们设计了一种内存高效的管理方法，支持内存密集型推理，通过调整内存优先级，有效地减少内存泄漏风险和内存冲突，并在受信任的操作系统中进行了 32 行代码的修改。此外，我们利用了两个小型库：S-Tinylib（2,538 行代码），一个小型深度学习库，和 Tinylibm（827 行代码），一个小型数学库，以支持在受信任执行环境中的高效推理。我们在 Raspberry Pi 3B + 上实现了一个原型，并使用三个知名的轻量级 DNN 模型进行了评估。实验结果表明，与在 TEE 中使用非内存优化方法相比，我们的设计能够将推理速度提高 3.13 倍，并降低功耗超过 66.5%。

Mar, 2024