SIGIRMay, 2021

当公平排名遇到不确定推断

PDF
TL;DR在真实世界的场景中，算法运营商为了在职位申请者或信贷申请者之间进行排名，可能通过推断人们的人口统计学信息并将其提供作为排名算法的输入，但本研究通过模拟和三个真实数据集的案例研究表明，实际系统中产生的人口推断可能会导致不公平的排名。因此，开发人员不应将推断出的人口统计数据作为公平排名算法的输入，除非推断结果非常准确。
发现论文，激发创造
  • 我们无法测量的，我们就无法理解：追求公平中的人口统计数据采集挑战

    研究发现算法公正性从业人员在实践中经常没有获取所需的人口统计数据，这带来了许多难题，其中包括如何平衡隐私与公平、如何定义相关的社会类别、如何确保意义上的同意以及私人公司是否可以推断某人的人口统计信息等，因此在使从业人员可以应对算法偏见方面，必须考虑到企业、监管机构、研究人员和社区团体所面临的挑战。

    Oct, 2020

  • 基于人口统计学的算法公平性：揭示在追求公平性过程中人口统计数据收集的风险

    本文探讨了收集人口统计数据用于实现算法公平性所面临的风险和挑战，并呼吁在数据管理和系统性压抑等领域中解决这些问题。

    Apr, 2022

  • 有限人口分类标记数据下的公平机器学习

    本研究提出了一种新型的公平训练算法，该算法在尽可能保护个人隐私的情况下，避免了在机器学习模型中存在不良社会偏见的问题。实验结果显示，该算法可以有效降低社会偏见问题。

    Jun, 2021

  • 不完整判断情况下公平排名度量方法估算

    为应对个人受保护属性标签稀缺的大规模系统，本研究提出了采样策略和评估技术以对四种公平排名度量进行测量，并形成一个强大而无偏的估算器。实验结果证明了该方法的可行性和可靠性。

    Aug, 2021

  • 生物识别中测量偏差的公平性指数

    本文提出了多个基于 biometric 系统评分的统计特征的评估指标和权重策略，通过评估数据得出生物识别系统的公平性。

    Jun, 2023

  • 人口有限制度下的公平性

    本研究通过引入不确定性感知，对可能存在不确定性的人口敏感属性样本实施公平性要求，并提出一种建立更好的公平性 - 准确性权衡的属性分类器框架，实验证明该框架相对于传统方法在两个数据集上都取得显著的公平性 - 准确性权衡表现优势，并且超过了对真实敏感属性进行约束训练的模型。

    Jul, 2023

  • 公平感知在线个性化

    本文针对在线个性化设置中排名的公平性问题，从公平的机器学习模型开始，探讨了在线个性化如何导致模型不公平，并提出了一种基于正则化的方法来缓解机器学习中的偏差。

    Jul, 2020

  • 内生行为的公平预测

    本文通过研究模型，发现在刑事司法中，平衡不同人群的类型 I 和类型 II 错误与最小化总犯罪率目标是一致的，而其他流行的公平理念则不然。

    Feb, 2020

  • iFair: 学习个体公平数据表示方法用于算法决策

    本文提出了一种基于概率映射用户记录的方法，用于实现算法决策应用的个体公平性和真实应用环境下的分类器和排名等工具的效用性，并通过应用于现实世界数据集的分类和学习排序任务的实验表明了其比之前最佳方法有显著改善。

    Jun, 2018

  • 排名输出中的公平性测量

    本文针对排名系统的公平性问题提出了公平性度量方法，并在实验中检验了该方法的可行性与有效性，并提出了一个精度和公平性并存的最优化框架。

    Oct, 2016