差分隐私公平学习
这篇论文研究了如何使用差分隐私和拉格朗日对偶的方法来设计神经网络，以确保在预测中不出现性别、种族或年龄等偏见，同时保护个人敏感信息，对于保证准确性、隐私与公平之间的平衡关系问题进行了分析，并在多个预测任务上进行了实验验证。
Sep, 2020
研究算法公平性和隐私在机器学习中的应用，分析了公平性对训练数据信息泄露的影响，发现公平性会牺牲一部分隐私权，特别是对弱势群体。同时，训练数据的偏差越大，为了弱势群体的公平性所付出的隐私成本也越高。
Nov, 2020
本文研究使用差分隐私指数机制作为后处理步骤以提高监督学习模型的公平性和隐私性，在真实数据集上的实验结果表明，指数机制可提高公平性和隐私性，而精确度略有下降。
Dec, 2020
在本研究中，我们调查了在差分隐私和公平性的约束下的二元分类问题。我们首先提出了一种基于解耦技术的算法，用于学习一个只保证公平性的分类器。该算法接受在不同人口群体上训练的分类器，并生成一个满足统计平衡的单个分类器。然后，我们改进了该算法以加入差分隐私。在隐私、公平性和效用保证方面，对最终算法的性能进行了严格的检验。在 Adult 和 Credit Card 数据集上进行的实证评估显示，我们的算法在公平性保证方面优于现有技术，同时保持相同水平的隐私和效用。
Feb, 2024
本文研究了数据隐私保护和公平决策之间的权衡，提出了随机差分隐私机制以及基于随机差分隐私算法的公平度量，并通过对美国人口普查数据在联邦资金分配、选举权利福利分配和代表分配三个实例中的应用，揭示了局部隐私保护构成的一系列利益分配不公的情况。
May, 2019
本文提出了在机器学习半私密设置中进行公平分类的新框架 FairSP，该框架可以借助少量的干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗的方式，共同模拟已经校正的和干净的数据，以实现去偏差和预测，并证明该模型可以保证当大多数敏感属性是私密时的公平性。
Jul, 2022
介绍了一种名为 Welfare-Equalizing 的公平算法，旨在保护受保护群体。该方法提供了一种公平性数据分类的统一框架，以及一种计算最优分类器的算法。
May, 2019
本文旨在研究一种隐私保护和公平的模型，该模型允许采用现有的公平模型，保护个人信息的隐私同时学习非歧视性预测器。实验证明该模型具有可扩展性、准确性和公正性。此外，该文章是第一个允许对非常大的神经网络训练私人和公平模型的提议。
Apr, 2022
通过广泛的评估结果，我们证明不同隐私度对公平性的影响并非单调。相反，我们观察到准确性差异在机器学习过程中添加更多的差分隐私噪声（增强隐私）时初步增加，但在更高隐私水平下通过更多噪声后逐渐减小。此外，通过在差分隐私随机梯度下降机器学习方法中实施梯度剪裁，可以减轻隐私噪声对公平性的负面影响。这种缓和是通过较低的剪裁阈值来调节差异性增长实现的。
Apr, 2024