Feb, 2024

不确定预测下的排序稳定性和多组公平性

PDF
TL;DR我们的研究考虑了排名函数：将分类任务的个别预测映射为排名分布，重点关注对预测扰动的稳定性以及对个体和子群体的公平性。我们展示了最近提出的基于不确定性的排名函数在稳定性方面的表现，并且通过与多准确预测或多校准预测器的成功组合，实现了多组公平性。我们的研究表明，基于不确定性的排名在组和个体级公平性保证之间自然插值，并且同时满足在使用机器学习预测时重要的稳定性要求。
rankingsuncertaintyranking functionsstabilityfairness
发现论文，激发创造
  • 采样始终群体公平的个体公平排序

    本研究提出了一种有效的算法，在保持个体公平的情况下，从一组项目中随机抽样出排名，以确保输出排名满足群体公平性限制，同时保证输出排名的期望效用至少是最优公平解的效用的 α 倍，进而实现在线平台的算法公平。

    Jun, 2023

  • 不确定性下的排名公平性

    认为不公平主要原因是不确定性，基于观察特征定义不完整，提出明确不确定性的近似公平，计算排名的最佳折衷，实验证明推荐系统在 KDD2020 实现了该方法。

    Jul, 2021

  • 公平性评估中的不确定性：尽管波动仍能保持稳定的结论

    文章提出了一个新的评估算法性能及公平性指标的贝叶斯框架 ——“不确定性事关框架”，可以用于稳定的偏见感知性能评估，并在 K 折交叉验证过程中进行了应用。实验结果表明，相比于经典的评估框架，该方法在信息和稳定性方面有更大的优势。

    Feb, 2023

  • 利用不确定性实现公平性

    本研究提出一种旨在平衡公平性和实用性的机器学习分类任务的独特解决方案，它利用贝叶斯学习估计样本预测的不确定性，并通过不确定性量化来定义新型的公平性 - 效用目标，从而实现同时优化公平性和实用性。实证研究发现，具有低分类不确定性的样本比高不确定性的样本更准确、更公平。实验结果表明，该方法在公平性和实用性平衡方面表现优异，并有望在机器学习中实现最佳公平性和实用性。

    Apr, 2023

  • 基于不确定性的公平度量

    通过引入基于不同类型的不确定性，即不确定性度量和主观不确定性度量，证明了不确定性度量在公平性评估中的补充作用，并提供了关于导致偏见的潜在问题的更多见解。

    Dec, 2023

  • 不平等不确定性下的公平排名

    使用 Equal-Opportunity Ranking 算法进行排名，解决不同群体之间存在的不确定性差异所导致的不公平问题。

    Sep, 2023

  • 公平且无偏的排名函数的策略梯度训练

    本文提出了一种能够同时解决学习算法固有的和训练数据中的算法和应用中置入偏见的公平性问题的排序方法，采用一类延迟策略梯度方法，即采用公平度量的代价函数，并针对所需的应用程序选择一类的 “平均公平度量” 选择公平度量，有效地使学习算法能够处理包含偏差和噪声的数据，并通过对算法进行实证研究证明其能够获得准确而公平的排序策略。

    Nov, 2019

  • 控制动态学习排序中的公平和偏见

    该研究探讨了通过引入群组公平性来优化排序算法，以在双面市场被公正的利用，同时保证了理论和实践上的表现。

    May, 2020

  • 基于排名的公平回归多任务学习

    本文提出了一种基于 Mann Whitney U 统计量的公平性学习方法，用于多任务回归模型的训练，通过非凸的优化和个体排名函数的分组排名功能的定义来提高性能。实验结果验证了本方法的出色表现。

    Sep, 2020

  • 存在偏差的多个排序基础下的子集选择：公平约束对多赢家投票评分函数的效果

    本文通过研究 subset selection 问题中的系统性和无意识偏见，探讨了在加入公平性约束条件下如何提高选择结果的质量，发现这与使用 multiwinner 得分函数的方式有很大关系，有些函数只需要少量排名即可达到近似最佳解，而对于其他函数却需要大量排名进行修正，并提供了工具进行实证验证。

    Jun, 2023