隐私保护预测

Mar, 2018

Privacy-preserving Prediction

Cynthia Dwork, Vitaly Feldman

TL;DR探讨在分类和回归等多种模型中，为实现个体预测隐私保护所需的成本，以及通过训练多个模型并使用标准的聚合技术来预测，以降低聚合步骤引入的开销，并建立所有不同隐私预测算法的强广义保证，从而研究机器学习中差分隐私的最优样本调整量。

Abstract

Ensuring differential privacy of models learned from sensitive user data is an important goal that has been studied extensively in recent years. It is now known that for some basic learning problems, especially those involving high-dimensional data, producing an accurate private model

differential privacy machine learning privacy-preserving classification regression

发现论文，激发创造

训练知道自己不知道什么的私有模型

通过研究选择性分类器在差分隐私约束下的效果，探讨深度学习模型的可靠性及隐私泄漏问题，发现最近的一种基于现成的深度学习模型生成检查点的方法在差分隐私下更为合适，使用差分隐私不仅会降低模型的效能，而且在隐私预算降低时需要付出相当大的覆盖成本。

May, 2023

具有私有预测的私有算法

以预测为基础的差分隐私方法是一种强大的方法，它可以利用外部信息来提高效用和添加噪声偏差稳健性。我们提出了四种重要任务的预测依赖的差分隐私方法，并对其进行了各项分析，包括对数据的最小假设，对噪声预测的自然稳健性增强和学习他人（可能是敏感的）数据的元算法。

Oct, 2022

在卫生保健领域进行差分隐私预测：追踪您的长尾

本研究研究了隐私保护机制对健康医疗领域数据挖掘和机器学习的影响和局限性，旨在通过使用最新的差分隐私数据挖掘算法来训练隐私保护的模型，并对这些模型进行全面的实证研究。该研究还探讨了隐私保护学习在医疗保健中的好处和成本。

Oct, 2020

私密长存预测

本研究提出了一种私有永久预测模型来解决传统私有模型中样本复杂度高的问题，其中预测是替代假设的，用来回答一系列分类查询，并使用预测修改假设，同时考虑对训练集和 (自适应选择的) 查询的隐私保护，而在 PAC 模型中提供通用建设，有效预测所有具有有限 VC 维的概念类，无论是有限域还是无限域。

May, 2023

隐私保护数据的条件密度估计

在该研究中，我们提出了基于模拟的隐私保护数据集推理方法，利用神经条件密度估计器近似后验分布，纠正隐私保护机制引入的偏差，并展示了隐私与效用之间的权衡的必要性和可行性。

Oct, 2023

深度学习差分隐私模型发布

提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

Apr, 2019

保护重构及其在私有联邦学习中的应用

本文探讨了在分散式数据环境下，采用局部差分隐私保护敏感数据的可行性，设计了最优局部差分隐私机制，实现了在大规模数据训练下保护隐私，同时保证模型准确性。

Dec, 2018

解锁差分隐私图像分类的准确度与公平性

预训练的基础模型经差分隐私微调可在下游任务中实现接近非隐私分类器的准确性，并且在四个数据集中实现与非隐私技术的准确性相差不多，包括两个医学成像基准数据集。此外，我们的隐私医学分类器在不同人口群体之间没有更大的性能差异。此里程碑使得差分隐私训练成为一项实用且可靠的技术，有潜力广泛应用于敏感数据的安全机器学习训练，同时保护个人隐私。

Aug, 2023

惩罚约束似然的差分隐私模型选择

本文主要研究如何将差分隐私的保护机制融入多元线性回归建模中，并提出了一种基于惩罚最小二乘估计和随机化的算法来实现此目标，该算法在最优化时更加敏感于参数的选择，但保证了与非差分隐私的程序同样的一致性。

Jul, 2016

深度学习与差分隐私

本论文提出新的算法技术，包括隐私成本的细化分析，并在差分隐私框架下进行。实验结果表明：我们可以在较小的隐私成本下训练具有非凸目标的深度神经网络，而且在软件复杂性、训练效率和模型质量上具有可管理的成本。

Jul, 2016