PATROL: 面向隐私的剪枝策略，抵御模型反推攻击的协同推理

Jul, 2023

PATROL: 面向隐私的剪枝策略，抵御模型反推攻击的协同推理

PATROL: Privacy-Oriented Pruning for Collaborative Inference Against Model Inversion Attacks

Shiwei Ding, Lan Zhang, Miao Pan, Xiaoyong Yuan

TL;DRPATROL 是一种可行的解决方案，它通过引入两个关键组件：Lipschitz 正则化和对抗重构训练，以实现面向隐私的修剪，从而在保护隐私的同时提高推断模型的稳定性和准确性。

Abstract

collaborative inference has been a promising solution to enable resource-constrained edge devices to perform inference using state-of-the-art deep neural networks (DNNs). In collaborative inference, the edge devi

collaborative inference model inversion attacks privacy-oriented pruning lipschitz regularization adversarial reconstruction training

发现论文，激发创造

PrivaScissors：透过互信息的视角增强协作推断的隐私保护

本文介绍了一种名为 PrivaScissors 的防御策略，可通过降低模型中间结果与设备数据、预测之间的互信息来增强协作推理的隐私性，经在多个数据集中进行攻击测试，具备理论上的鲁棒性保证。

May, 2023

通过边缘 PRUNE 框架实现容错协同推理

本文提出了基于形式化定义的 Edge-PRUNE 分布式计算框架，旨在为容错协作推断提供灵活的基础设施。实验结果显示了通过协作推断实现的可行推断时间节省及其花费。

Jun, 2022

隐私分区：在深度学习推理阶段保护用户数据

提出了一种名为 “Privacy Partitioning” 的方法，通过将机器学习模型拆分并部署到本地设备和远程服务器中，保护用户数据，防止对状态最先进的深度网络的中间状态进行攻击并推断出隐私敏感的输入。（该方法）能够在不影响分类准确性的情况下有效削弱攻击者获得隐私敏感信息的能力。

Dec, 2018

RL-DistPrivacy: 低延迟 IoT 系统隐私感知分布式深度推理

本论文通过重新考虑分发策略，并利用增强学习设计来支持异构设备和多个 DNN / 数据集，实现协同深度推理的安全性，以平衡联合推理的延迟和数据隐私级别之间的权衡。

Aug, 2022

使用卷积神经网络的隐私 - 保护入侵检测

使用 PriMIA 框架，本文在基于卷积神经网络的攻击检测系统上增强了隐私保护技术，以解决隐私保存和数据安全的问题。

Apr, 2024

重审梯度修剪：一种用于抵御梯度攻击的双重实现

协作学习是一种分布式学习框架，旨在通过共享梯度更新，保护用户隐私。然而，梯度反演攻击对协作学习构成严重的隐私威胁。现有的防御方法在隐私、效用和效率之间存在着很大的折衷。为了克服现有解决方案的缺点，我们提出了一种新的防御方法，双梯度修剪（DGP），基于梯度修剪，可以提高通信效率，同时保护协作学习的效用和隐私。我们的实验证明，DGP 能够有效地抵御最强大的梯度反演攻击，并在不牺牲模型效用的情况下降低通信成本。

Jan, 2024

具有自动转换搜索的隐私保护协作学习

本论文提出了一种基于数据增强的解决方案，以防止敌对方从共享的梯度中恢复训练数据，文中使用创新的搜索方法发现数据增强策略，并使用两个新的度量指标来评估策略的影响，实验结果表明该方法能够高效地击败现有的重建攻击，对模型性能影响微不足道。

Nov, 2020

通过互信息正则化提高模型抗模型反演攻击的鲁棒性

该研究提出了一种基于互信息正则化的防御模型反演攻击的方法，通过限制模型输入中包含的信息，从而限制对手从模型预测中推断出私有属性的能力。此方法能够应用于多种模型并在保护隐私和工具合理性方面取得更好的平衡。

Sep, 2020

一个混合深度学习架构用于隐私保护移动分析

本篇论文提出了一种用于合作、隐私保护分析的深度神经网络混合方法，使用边缘处理的思想，在保持效益的同时，有效减少了不必要、潜在敏感信息的级别。利用 Siamese 微调技术，可以确保用户设备只带有主任务所需的必要信息，并防止数据的二次推断。

Mar, 2017

深度学习案例中用于医疗数据推理攻击模型的评估

本文研究了深度神经网络在医疗应用中存在的隐私问题，发现攻击者可以利用属性推理攻击和模型反演攻击重建真实医学图像和临床记录，提出使用标签扰动和模型扰动等防御机制有效保护患者隐私。实验结果证明，我们的防御策略可以有效地减少医疗深度学习的隐私泄露风险。

Oct, 2020