Apr, 2023

隐私 - 效用移动模型的公平性分析

PDF
TL;DR本文定义人类活动中用于衡量公平性的指标，并对几个隐私保护模型在这些指标下的性能进行了比较，结果表明现有的模型虽然可以保证群体公平，但无法保证个体公平，即具有高度相似轨迹的用户获得的隐私保护差异较大，这表明在未来的空间 - 时间数据分析和建模过程中需要同时考虑去识别的任务和个人公平性，以实现隐私保护与公平性的平衡。
发现论文，激发创造
  • 差分隐私下公平概念的实证分析

    选取适用于差分隐私的最佳模型架构是实现在一定隐私预算下使用差分隐私随机梯度下降 (DP-SGD) 获得最佳效用的关键。本文通过使用标准数据集和严格的实验协议，表明选择适用于 DP-SGD 的最佳模型体系结构时，与最大化效用的非隐私基线相比，相关的公平性指标差异跨组会更少或可以忽略不计，这些发现挑战了关于在基于偏见数据集训练的深度学习模型中差分隐私必然加剧不公平性的理解。

    Feb, 2023

  • 数据集公平性：通过效用保证在您的数据上实现公平

    机器学习公平性经常导致准确率下降，我们提出了一种基于数据集的高效方法来逼近公平性 - 准确性权衡曲线，并通过引入置信区间来量化逼近的不确定性，从而为各种数据模态下的数据集特定公平决策提供了一种有原则的框架。

    Feb, 2024

  • 公平空间索引：群体空间公正的范式

    本文利用 KD 树算法解决机器学习中地理位置偏差带来的公平问题，实验结果表明该算法显著提高了公平性并保持了高的学习精度。

    Feb, 2023

  • 学习公正性，走向公平、隐私和效用的帕累托前沿

    采用中立性原则，提出一个用于机器学习的管道的设计，在优化准确度的同时，不会偏向公平性或隐私，使用方法 FairDP-SGD 和 FairPATE 得到真正的 Pareto 前沿线。

    Feb, 2023

  • 公平映射

    为了解决模型中存在的错误偏见，本研究提出了一种新的预处理方法 - 公平映射，通过转换敏感组的数据分布到一个特定的目标分布上，并且实现保护敏感属性不被推论的目标来改善数据的公平性。实验结果表明，该方法能够同时隐蔽敏感属性，不失数据的特性，同时提高了后续数据分析任务的公平性。

    Sep, 2022

  • 关于联邦学习中隐私、公平性和效用之间的权衡

    为了提高联邦学习系统的公平性，本研究使用了公平度量指标构建本地公平模型，并提出了一种隐私保护的公平联邦学习方法。实验结果表明，隐私保护提高了公平模型的准确性，但在隐私、公平和实用性之间存在权衡。

    Nov, 2023

  • 基于成对公正表示的个体公正实现

    本文提出不需要人工规范距离度量的个体公平性的实现方法。我们提出新的方法获取和利用关于同样值得的个人的附加信息来打破社会群体之间的剥夺，将这些知识建模为公平图，并学习数据的统一成对公平表示，捕捉个体间数据驱动的相似性和公平性图中成对附加信息。我们从各种来源获取公平判断，包括关于再犯率预测（COMPAS）和暴力社区预测（Crime＆Communities）的两个真实数据集的人类判断。实验显示，对于实现个体公平，PFR 模型是实际可行的。

    Jul, 2019

  • 生成模型中的公平性测量

    本文回顾了以往提出的公正度量标准，并讨论了绩效基准框架以及替代度量标准的评估。

    Jul, 2021

  • 机器学习中隐私和公平性的整体调查

    隐私和公正是负责任的人工智能和可信机器学习的两个关键支柱。本文对隐私和公正在机器学习中的影响进行了综述，包括有监督学习、无监督学习、半监督学习和强化学习，并提出了同时实现这两个目标时所面临的研究挑战，特别关注大规模语言模型。

    Jul, 2023

  • 算法公平性隐私风险

    研究算法公平性和隐私在机器学习中的应用，分析了公平性对训练数据信息泄露的影响，发现公平性会牺牲一部分隐私权，特别是对弱势群体。同时，训练数据的偏差越大，为了弱势群体的公平性所付出的隐私成本也越高。

    Nov, 2020