通过对抗训练学习隐私保护编码

Feb, 2018

Learning Privacy Preserving Encodings through Adversarial Training

Francesco Pittaluga, Sanjeev J. Koppal, Ayan Chakrabarti

TL;DR本研究提出一种框架，使用自然对抗优化的方法，通过训练编码器与私密属性分类器作为深度神经网络，在维护实用性的同时，抑制隐私属性的推理，本文的关键贡献是提出了一种稳定且收敛的优化方法，使得分类器不能够准确地预测私密属性，实验结果表明该方法能够对实际场景中的高维编码实现隐私保护。

Abstract

We present a framework to learn privacy-preserving encodings of images that inhibit inference of chosen private attributes, while allowing

privacy encodings inhibit adversarial optimization neural networks

发现论文，激发创造

隐私保护与任务导向表征的对抗学习

本文提出了一种对抗性重构学习框架，旨在学习一种以任务为导向的隐私保护表示，以防止模型反演攻击，采用负像素重构损失或负感知距离损失最小化来实现，展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私，并提供了不同特征、任务和数据的广泛研究，以进一步分析它们对隐私保护的影响和效用 - 隐私权衡的关系。

Nov, 2019

只有我的模型与我的数据：一种保护模型并欺骗未经授权的黑盒模型的隐私保护方法

通过生成可被人类感知的图像，本研究在保护模型准确推断的同时，回避其他类似或不同目标的非授权黑盒模型，以实现实际的隐私保护。

Feb, 2024

通过对抗训练实现隐私保护视觉识别：一项试点研究

本文提出通过对图像进行优化来平衡隐私预算和目标任务分析性能的对抗训练框架，并且使用预算模型重启和集成策略来提高对新的黑客模型的保护性。通过使用两个隐私保护行动识别中的实验，该框架在同时维持高目标任务（行动识别）性能之余，成功抑制了隐私侵犯的风险。

Jul, 2018

基于自编码器学习结构的可调节隐私性

本文提出了一种利用自编码器结构来平衡数据提供商和推理中心隐私和效用之间权衡的方法，其中将数据分为私密和非私密部份并通过分类器将其与噪音合并，最后使用解码器将其重构，结果表明该方法比先前的方法具有更好的性能。

Apr, 2023

隐私保护机器学习的鲁棒表示学习：一种多目标自编码器方法

通过鲁棒表示学习作为编码数据的方式，我们提出了一种旨在优化隐私效用平衡的方法，利用自动编码器进行多目标训练，然后将编码部分的潜在特征和学习特征连接起来作为我们的数据的编码形式，以安全地发送给第三方进行深度训练和超参数调优，从而在维护数据隐私的同时提高性能。

Sep, 2023

隐私保护对抗网络

利用对抗性神经网络实现随机机制和互信息隐私的变分近似，优化隐私数据发布机制的信息论最优折衷方案，对合成数据和实际数据集 MNIST 进行了验证实验。

Dec, 2017

HiDDeN: 使用深度网络隐藏数据

文中讨论深度神经网络的鲁棒性，探索使用对抗干扰来做数据隐藏的可行性，并展示了效果竞争力强的编码技术及其在对抗干扰下的鲁棒性的改进方式。

Jul, 2018

下游无关对抗样本

该论文提出了 AdvEncoder，这是第一个基于预训练编码器生成无下游限制通用对抗样本的框架，在只输出特征向量而非分类标签的情况下，通过高频成分信息和生成式攻击框架构造对抗性扰动 / 补丁来攻击下游任务。实验证明，攻击者可以成功地攻击下游任务，而不需要了解预训练数据集或下游数据集。

Jul, 2023

实例编码是否能够实现私有学习？

本研究探讨了通过实例编码机制来保护隐私的非隐私学习算法，提出了两种攻击模型，分别证明了实现（强）模型的不可能性结果和在 InstaHide 上实施较弱的攻击模型的可行性。

Nov, 2020

音频鲁棒隐私保护的对抗表示学习

本研究提出了一种新的对抗性训练方法，用于生成语音含量音频的不变潜在表示，以有效防止从录音的潜在特征检测语音活动，缓解了隐私泄露的问题。

Apr, 2023