差分隐私对群体不平等性缓解的影响

Mar, 2022

差分隐私对群体不平等性缓解的影响

The Impact of Differential Privacy on Group Disparity Mitigation

Victor Petrén Bach Hansen, Atula Tejaswi Neerkaje, Ramit Sawhney, Lucie Flek, Anders Søgaard

TL;DR本文探讨差分隐私对公平性的影响，并评估隐私保护机制对公平性的影响。结果发现，差分隐私在基线设置下会增加组间性能差异，但在鲁棒设置下会减少组间性能差异，解释了这是由于差分隐私被重新解释为规范化的结果。

Abstract

The performance cost of differential privacy has, for some applications, been shown to be higher for minority groups; fairness, conversely, has been shown to disproportionally compromise the privacy of members of

differential privacy fairness privacy violations performance differences regularization

发现论文，激发创造

数据不平衡对差分隐私的效用和公平性的影响：既非私密，也非公平

研究了不同程度数据不平衡和隐私保证对深度学习模型准确性和公平性的影响，并发现即使数据有小的不平衡和较宽松的隐私保证也会引起非公平性。

Sep, 2020

隐私的代价：探索其对人工智能公平性的双重影响

通过广泛的评估结果，我们证明不同隐私度对公平性的影响并非单调。相反，我们观察到准确性差异在机器学习过程中添加更多的差分隐私噪声（增强隐私）时初步增加，但在更高隐私水平下通过更多噪声后逐渐减小。此外，通过在差分隐私随机梯度下降机器学习方法中实施梯度剪裁，可以减轻隐私噪声对公平性的负面影响。这种缓和是通过较低的剪裁阈值来调节差异性增长实现的。

Apr, 2024

使用隐私保护数据进行公平决策制定

本文研究了数据隐私保护和公平决策之间的权衡，提出了随机差分隐私机制以及基于随机差分隐私算法的公平度量，并通过对美国人口普查数据在联邦资金分配、选举权利福利分配和代表分配三个实例中的应用，揭示了局部隐私保护构成的一系列利益分配不公的情况。

May, 2019

梯度不对齐导致差异隐私的不平等影响

本文研究机器学习中隐私性与公平性问题中，隐私增强技术可能会加剧模型中的不公平，导致数据中不同群体的差异性迅速增大；通过研究 DPSGD 不公平根源，本文提出一种新方法，通过防止 DPSGD 中梯度错位来降低不公平。

Jun, 2022

对局部差分隐私对公平性影响的系统和正式研究：初步结果

通过定量研究隐私保护机制差分隐私对机器学习模型公平性的影响，本研究提供了在不同的隐私级别和数据分布下，差分隐私能对模型公平性产生影响的界限，并确定了隐私减少歧视和增加歧视的情况，验证了理论发现在合成和现实世界数据集上的有效性。

May, 2024

差分隐私对模型准确性影响不一

本文研究的 DP-SGD 算法在训练神经网络时，由于梯度裁剪和噪声加法等机制对复杂和少数类样本的影响更大，造成训练模型的准确率不公平，使 DP-SGD 算法不适用于存在不平衡类别数据的训练任务。

May, 2019

决策和学习任务中的差分隐私和公平性综述

本篇文章综述了隐私保护与公平之间的关系，分析了在不同情况下二者目标的一致性与对立性，探讨了隐私保护可能加剧决策问题和学习任务中的偏见和不公平现象，并描述了在隐私保护系统中解决公平问题的可行措施，为在公平视角下部署保护隐私的机器学习或决策任务提供了统一的理解。

Feb, 2022

差分隐私公平学习

研究如何在收集敏感属性信息受到禁止或限制的情况下，通过差分隐私算法实现公平学习，并提出两种算法来设计实现，同时保证了差分隐私和均等几率性，讨论这三个性质间的权衡关系。

Dec, 2018

FairDP：差分隐私下的合规公平性保障

本文介绍了 FairDP 机制，它是一种同时确保差分隐私和公平性的新型机制。 FairDP 通过为不同的个体群体独立训练模型，并使用群体特定的剪辑术语来评估和限制 DP 的差异影响来运行。在整个训练过程中，该机制逐步集成来自群体模型的知识，从而制定在下游任务中平衡隐私，实用性和公平性的综合模型。广泛的理论和实证分析验证了 FairDP 的功效，展示了与现有方法相比，模型实用性，隐私和公平性之间的权衡得到了改善。

May, 2023

以公平性角度视差分隐私的决策制定

本文研究了不同 ially private 数据集的发布，并从公平的角度分析它们对一些关键的资源分配任务的影响。结果发现，当决策以 differentially private data 作为输入时，为了实现隐私而添加的噪声会对某些群体产生不成比例的影响。该论文分析了这些不成比例影响的原因，并提出了减轻这些影响的指导方针。这些方法基于使用 differentially private census data 的关键决策问题进行了评估。

May, 2021