AAAIFeb, 2023

差分隐私下公平概念的实证分析

PDF
TL;DR选取适用于差分隐私的最佳模型架构是实现在一定隐私预算下使用差分隐私随机梯度下降 (DP-SGD) 获得最佳效用的关键。本文通过使用标准数据集和严格的实验协议，表明选择适用于 DP-SGD 的最佳模型体系结构时，与最大化效用的非隐私基线相比，相关的公平性指标差异跨组会更少或可以忽略不计，这些发现挑战了关于在基于偏见数据集训练的深度学习模型中差分隐私必然加剧不公平性的理解。
differential privacydp-sgdfairnessmodel architecturedeep learning models
发现论文，激发创造
  • 探索 DP-SGD 在不同情境下的不公平性

    通过应用 DP-SGD 的标准方法来评估其对多个公平性指标的影响，我们发现，在线性分类和鲁棒深度学习情况下，隐私和公平性之间存在负的对数相关性。

    Feb, 2022

  • 隐私的代价：探索其对人工智能公平性的双重影响

    通过广泛的评估结果，我们证明不同隐私度对公平性的影响并非单调。相反，我们观察到准确性差异在机器学习过程中添加更多的差分隐私噪声（增强隐私）时初步增加，但在更高隐私水平下通过更多噪声后逐渐减小。此外，通过在差分隐私随机梯度下降机器学习方法中实施梯度剪裁，可以减轻隐私噪声对公平性的负面影响。这种缓和是通过较低的剪裁阈值来调节差异性增长实现的。

    Apr, 2024

  • 梯度不对齐导致差异隐私的不平等影响

    本文研究机器学习中隐私性与公平性问题中，隐私增强技术可能会加剧模型中的不公平，导致数据中不同群体的差异性迅速增大；通过研究 DPSGD 不公平根源，本文提出一种新方法，通过防止 DPSGD 中梯度错位来降低不公平。

    Jun, 2022

  • 差分隐私对模型准确性影响不一

    本文研究的 DP-SGD 算法在训练神经网络时，由于梯度裁剪和噪声加法等机制对复杂和少数类样本的影响更大，造成训练模型的准确率不公平，使 DP-SGD 算法不适用于存在不平衡类别数据的训练任务。

    May, 2019

  • 数据不平衡对差分隐私的效用和公平性的影响：既非私密，也非公平

    研究了不同程度数据不平衡和隐私保证对深度学习模型准确性和公平性的影响，并发现即使数据有小的不平衡和较宽松的隐私保证也会引起非公平性。

    Sep, 2020

  • 对局部差分隐私对公平性影响的系统和正式研究：初步结果

    通过定量研究隐私保护机制差分隐私对机器学习模型公平性的影响，本研究提供了在不同的隐私级别和数据分布下，差分隐私能对模型公平性产生影响的界限，并确定了隐私减少歧视和增加歧视的情况，验证了理论发现在合成和现实世界数据集上的有效性。

    May, 2024

  • FairDP：差分隐私下的合规公平性保障

    本文介绍了 FairDP 机制，它是一种同时确保差分隐私和公平性的新型机制。 FairDP 通过为不同的个体群体独立训练模型，并使用群体特定的剪辑术语来评估和限制 DP 的差异影响来运行。 在整个训练过程中，该机制逐步集成来自群体模型的知识，从而制定在下游任务中平衡隐私，实用性和公平性的综合模型。 广泛的理论和实证分析验证了 FairDP 的功效，展示了与现有方法相比，模型实用性，隐私和公平性之间的权衡得到了改善。

    May, 2023

  • 学习公正性，走向公平、隐私和效用的帕累托前沿

    采用中立性原则，提出一个用于机器学习的管道的设计，在优化准确度的同时，不会偏向公平性或隐私，使用方法 FairDP-SGD 和 FairPATE 得到真正的 Pareto 前沿线。

    Feb, 2023

  • 差分隐私对群体不平等性缓解的影响

    本文探讨差分隐私对公平性的影响，并评估隐私保护机制对公平性的影响。结果发现，差分隐私在基线设置下会增加组间性能差异，但在鲁棒设置下会减少组间性能差异，解释了这是由于差分隐私被重新解释为规范化的结果。

    Mar, 2022

  • 优化选择问题中的公平性与隐私

    本文研究使用差分隐私指数机制作为后处理步骤以提高监督学习模型的公平性和隐私性，在真实数据集上的实验结果表明，指数机制可提高公平性和隐私性，而精确度略有下降。

    Dec, 2020