管理您的私人和公共数据：降低推断攻击对您隐私的威胁

Aug, 2014

管理您的私人和公共数据：降低推断攻击对您隐私的威胁

Managing your Private and Public Data: Bringing down Inference Attacks against your Privacy

Salman Salamatian, Amy Zhang, Flavio du Pin Calmon, Sandilya Bhamidipati, Nadia Fawaz...

TL;DR本文提出了一种隐私保护的实用方法，使用通用的统计推断框架捕获推断攻击下的隐私威胁并满足效用约束，采用隐私保护概率映射技术对发布的数据进行扭曲处理，同时解决了实际中遇到的实用挑战，通过引入量化步骤和减少优化大小的方法，我们的方法在保证数据原版用途的情况下，取得了良好的隐私保护效果。

Abstract

We propose a practical methodology to protect a user's private data, when he wishes to publicly release data that is correlated with his private data, in the hope of getting some utility. Our approach relies on a general statistical inference framework that captures the privacy threat under inference attacks, given utility constraints. Under this framework,

privacy-preserving statistical inference convex optimization information leakage quantization

发现论文，激发创造

隐私保护与统计推断

提出一种用于捕获用户向被动好奇敌手发布数据时产生的隐私威胁并在效用约束下加以限制的一般性统计推断框架，其中应用自信息成本函数于非渐进信息论方法用于表征最佳可实现的隐私，基于这些结果引入平均信息泄漏和最大信息泄漏两种隐私度量，证明在两种指标下，将用户数据映射到隐私保护输出的最优映射可被描述为修正的率失真问题并可设计成凸编程，最后与差分隐私进行比较。

Oct, 2012

具有私有预测的私有算法

以预测为基础的差分隐私方法是一种强大的方法，它可以利用外部信息来提高效用和添加噪声偏差稳健性。我们提出了四种重要任务的预测依赖的差分隐私方法，并对其进行了各项分析，包括对数据的最小假设，对噪声预测的自然稳健性增强和学习他人（可能是敏感的）数据的元算法。

Oct, 2022

从信息瓶颈到隐私漏斗

该论文讨论了用户在希望获得某些实用性的同时，披露与其私人数据相关的信息所面临的隐私 - 效用权衡以及了解了一种概率隐私映射的数据变换技术，进而提出了一种优化方案以平衡隐私泄露和效用损失。通过实验在美国人口普查数据集上检验了该方案的性能。

Feb, 2014

隐私保护预测

探讨在分类和回归等多种模型中，为实现个体预测隐私保护所需的成本，以及通过训练多个模型并使用标准的聚合技术来预测，以降低聚合步骤引入的开销，并建立所有不同隐私预测算法的强广义保证，从而研究机器学习中差分隐私的最优样本调整量。

Mar, 2018

通过协调优化隐私与效用的权衡来满足群体利益

我们提出了一种新的问题形式来处理隐私与效用之间的权衡，特别是针对由具有独特私人和效用属性集的两个不同用户组组成的情况。我们通过一个可信第三方引入了两个用户组之间的协作数据共享机制，该机制使用对抗隐私技术对数据进行内部清洁，消除了手动注释或辅助数据集的需要。我们的方法确保了无法准确推断私人属性，同时实现了高度准确的效用特征预测。此外，我们的数据共享机制与各种现有的对抗隐私技术兼容，并通过使用合成和真实世界数据集进行实证展示，展示了其平衡隐私和效用这一互相冲突目标的能力。

Apr, 2024

一参数防御 —— 利用差分隐私抵御数据推断攻击

本文提出了一种采用差分隐私机制的数据推断攻击防御方法，通过调节一个参数，即隐私预算，处理成员推断和模型反演两种类型的攻击。该方法能够保持分类精度，并通过修改和标准化置信度得分矢量来保护成员隐私信息。实验结果表明，该方法对于成员推断和模型反演两种攻击是一种有效且及时的防御方法，不影响模型分类准确度。

Mar, 2022

Redactor：基于数据和个性化的抵抗推理攻击的防御

研究信息泄露的问题，提出了利用针对性误导生成来强化机器学习模型对推理攻击的鲁棒性，即通过插入新数据来稀释原数据，使用多个分类器的决策边界进行概率标注。

Feb, 2022

隐私分区：在深度学习推理阶段保护用户数据

提出了一种名为 “Privacy Partitioning” 的方法，通过将机器学习模型拆分并部署到本地设备和远程服务器中，保护用户数据，防止对状态最先进的深度网络的中间状态进行攻击并推断出隐私敏感的输入。（该方法）能够在不影响分类准确性的情况下有效削弱攻击者获得隐私敏感信息的能力。

Dec, 2018

近似、适应、匿名（3A）：用于机器学习隐私保护训练数据发布的框架

本文提出了一种数据发布框架 ——3A (Approximate, Adapt, Anonymize)，它能够最大化机器学习的数据效用，同时保持差分隐私与高效性。

Jul, 2023

隐私保护数据的条件密度估计

在该研究中，我们提出了基于模拟的隐私保护数据集推理方法，利用神经条件密度估计器近似后验分布，纠正隐私保护机制引入的偏差，并展示了隐私与效用之间的权衡的必要性和可行性。

Oct, 2023