隐私分区：在深度学习推理阶段保护用户数据

Dec, 2018

隐私分区：在深度学习推理阶段保护用户数据

Privacy Partitioning: Protecting User Data During the Deep Learning Inference Phase

Jianfeng Chi, Emmanuel Owusu, Xuwang Yin, Tong Yu, William Chan...

TL;DR提出了一种名为 “Privacy Partitioning” 的方法，通过将机器学习模型拆分并部署到本地设备和远程服务器中，保护用户数据，防止对状态最先进的深度网络的中间状态进行攻击并推断出隐私敏感的输入。（该方法）能够在不影响分类准确性的情况下有效削弱攻击者获得隐私敏感信息的能力。

Abstract

We present a practical method for protecting data during the inference phase of deep learning based on bipartite topology threat modeling

privacy partitioning deep learning bipartite topology inference phase data protection

发现论文，激发创造

三元模型分区实现机密推理

本文探讨了深度学习图像分类管道中推断输入的生命周期，提出了一种三元模型分区机制来减轻深度学习场景中存在的信息泄露问题，并在分别考虑不同网络深度和复杂程度的三个代表性 ImageNet 级别深度学习模型上进行了全面的安全和性能评估，验证了云上部署机密推理服务的可行性。

Jul, 2018

只有我的模型与我的数据：一种保护模型并欺骗未经授权的黑盒模型的隐私保护方法

通过生成可被人类感知的图像，本研究在保护模型准确推断的同时，回避其他类似或不同目标的非授权黑盒模型，以实现实际的隐私保护。

Feb, 2024

一个混合深度学习架构用于隐私保护移动分析

本篇论文提出了一种用于合作、隐私保护分析的深度神经网络混合方法，使用边缘处理的思想，在保持效益的同时，有效减少了不必要、潜在敏感信息的级别。利用 Siamese 微调技术，可以确保用户设备只带有主任务所需的必要信息，并防止数据的二次推断。

Mar, 2017

RL-DistPrivacy: 低延迟 IoT 系统隐私感知分布式深度推理

本论文通过重新考虑分发策略，并利用增强学习设计来支持异构设备和多个 DNN / 数据集，实现协同深度推理的安全性，以平衡联合推理的延迟和数据隐私级别之间的权衡。

Aug, 2022

深度学习中的隐私：综述

本文综述了深度学习中面临的隐私问题，以及已经提出的解决这些问题的技术，并提出了未来研究方向。

Apr, 2020

隐私保护与任务导向表征的对抗学习

本文提出了一种对抗性重构学习框架，旨在学习一种以任务为导向的隐私保护表示，以防止模型反演攻击，采用负像素重构损失或负感知距离损失最小化来实现，展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私，并提供了不同特征、任务和数据的广泛研究，以进一步分析它们对隐私保护的影响和效用 - 隐私权衡的关系。

Nov, 2019

GAN 下的深度模型：来自协作深度学习的信息泄露

本文研究了协作深度学习的隐私问题以及差分隐私技术的应用，结果发现目前的方法都无法保护参与者的训练数据隐私，因为我们提出了一种基于生成对抗网络的攻击方法。

Feb, 2017

管理您的私人和公共数据：降低推断攻击对您隐私的威胁

本文提出了一种隐私保护的实用方法，使用通用的统计推断框架捕获推断攻击下的隐私威胁并满足效用约束，采用隐私保护概率映射技术对发布的数据进行扭曲处理，同时解决了实际中遇到的实用挑战，通过引入量化步骤和减少优化大小的方法，我们的方法在保证数据原版用途的情况下，取得了良好的隐私保护效果。

Aug, 2014

深度学习案例中用于医疗数据推理攻击模型的评估

本文研究了深度神经网络在医疗应用中存在的隐私问题，发现攻击者可以利用属性推理攻击和模型反演攻击重建真实医学图像和临床记录，提出使用标签扰动和模型扰动等防御机制有效保护患者隐私。实验结果证明，我们的防御策略可以有效地减少医疗深度学习的隐私泄露风险。

Oct, 2020

PrivyNet: 面向隐私保护的深度神经网络训练的灵活框架

该研究提出了一种基于中间表示的 DNN 拆分框架，其中本地神经网络用于生成特征表示，云神经网络则基于提取的中间表示用于目标学习任务的训练，在保护数据隐私的同时优化目标任务的准确性，并提出 PrivyNet 来确定本地神经网络的拓扑结构以优化目标任务的准确性并在保证数据隐私、本地计算和存储方面受到限制。

Sep, 2017