Jan, 2022

差分隐私数据的后处理：公平性视角

PDF
TL;DR本研究探讨了不同隐私保护机制中，后处理免疫性质的影响，并分析了在美国人口普查数据分配基金等重大社会决策中，后处理机制引起的不公平影响，提出了一种新的后处理机制，旨在减少公平问题和隐私保护成本。
differential privacypost-processing immunitydisparate impactfairness metricscensus data
发现论文，激发创造
  • 差分隐私后处理的偏差和方差

    本文首次研究了 post-processing 在差分隐私保护中的性质，尤其在人口普查数据发布中的应用，并从此理论和经验上探讨了广泛采用的一类 post-processing 函数的行为。

    Oct, 2020

  • 公平回归的差分私有后处理

    该研究提出了一种差分隐私的后处理算法，用于学习满足统计平等的公平回归器，解决了机器学习模型在敏感数据上训练时的隐私问题和其传播历史偏见的公平问题，并提供了算法的样本复杂性和公平性保证，揭示了在直方图中选择的箱数的选择对于统计偏倚和方差之间的权衡，其中使用较少的箱数总是以错误为代价倾向于公平性。

    May, 2024

  • 以公平性角度视差分隐私的决策制定

    本文研究了不同 ially private 数据集的发布，并从公平的角度分析它们对一些关键的资源分配任务的影响。 结果发现，当决策以 differentially private data 作为输入时，为了实现隐私而添加的噪声会对某些群体产生不成比例的影响。该论文分析了这些不成比例影响的原因，并提出了减轻这些影响的指导方针。这些方法基于使用 differentially private census data 的关键决策问题进行了评估。

    May, 2021

  • 使用隐私保护数据进行公平决策制定

    本文研究了数据隐私保护和公平决策之间的权衡，提出了随机差分隐私机制以及基于随机差分隐私算法的公平度量，并通过对美国人口普查数据在联邦资金分配、选举权利福利分配和代表分配三个实例中的应用，揭示了局部隐私保护构成的一系列利益分配不公的情况。

    May, 2019

  • 无算法公平的七年回溯

    本文通过数千次模型评估，并采用一种叫做 “取消后处理方法” 的简单理念，对多篇针对改进后处理基线的论文进行实证评估，发现在不同的表格数据集上所实现的公平性 - 准确性 Pareto 前沿线包含了所有现有的其他改进方法。作者还纠正了之前的两个常见方法学错误。

    Jun, 2023

  • FRAPPÉ: 一个适用于群体公平约束的后处理框架

    提出了针对群体公平性的后处理缓解技术方法，通过调整基础模型的决策阈值，以提高公平性。在现实应用中，这种方法具有许多优势：后处理不需要访问模型训练流程，对基础模型架构没有偏好，并且计算成本较低。然而，现有方法仍面临其他挑战，如需要推理时了解敏感属性，并且常常被内部处理方法优于。本文提出了一个通用框架，将带有惩罚目标的内部处理方法转化为后处理过程，以克服先前后处理方法的缺点。此外，我们通过理论和对实际数据的大量实验表明，该后处理方法在公平性和错误折衷方面与内部处理相当甚至更好。

    Dec, 2023

  • 差分隐私对群体不平等性缓解的影响

    本文探讨差分隐私对公平性的影响，并评估隐私保护机制对公平性的影响。结果发现，差分隐私在基线设置下会增加组间性能差异，但在鲁棒设置下会减少组间性能差异，解释了这是由于差分隐私被重新解释为规范化的结果。

    Mar, 2022

  • 针对个体和群体公平性的偏差缓解后处理

    该研究提出了一种新的框架，能够在现实数据集中同时增加个体公平性和群体公平性，并展示了在信用、就业和刑事司法等应用中，在分类准确性、个体和群体公平性方面相比之前的工作表现更为优异。

    Dec, 2018

  • 对局部差分隐私对公平性影响的系统和正式研究：初步结果

    通过定量研究隐私保护机制差分隐私对机器学习模型公平性的影响，本研究提供了在不同的隐私级别和数据分布下，差分隐私能对模型公平性产生影响的界限，并确定了隐私减少歧视和增加歧视的情况，验证了理论发现在合成和现实世界数据集上的有效性。

    May, 2024

  • 数据不平衡对差分隐私的效用和公平性的影响：既非私密，也非公平

    研究了不同程度数据不平衡和隐私保证对深度学习模型准确性和公平性的影响，并发现即使数据有小的不平衡和较宽松的隐私保证也会引起非公平性。

    Sep, 2020