长期公平性的成就与脆弱性
本文提出了一种在在线强化学习中形式化长期公平的方法;该方法可以适应不同的控制目标,通过牺牲短期激励来推动分类器 - 人群系统朝着更理想的均衡状态发展,从而在损失和公平违规之间实现同时概率边界的算法。
Apr, 2023
通过引入一个名为 LoTFair 的在线算法,本研究提出了一个框架,用于在具有时间变化公平性约束的动态决策系统中确保长期公平性。研究证明,LoTFair 可以在保持长期性能的同时,使整体公平性违规变得微不足道。
Jan, 2024
本文针对决策公平性方面的长期影响进行研究,研究人员通过模拟静态公平约束下群体福祉的平等和改进的长期影响以及潜在的干预措施,发现其对于群体福利可同时具有促进平等和增加差距两种影响,同时提出一种理论框架并完成了基于实际数据与模拟动态的社会科学研究。
Oct, 2020
提出一种新的公正性指标 EI (即平等的可改进性),并且提出了三种算法来解决 EI 规则化优化问题。实验结果表明,使用 EI 指标可以实现长期公正性。
Oct, 2022
研究论文通过使用时间因果图和不同人群干预分布之间的 1-Wasserstein 距离作为定量指标,以减少顺序决策系统中的群体差异,研究了长期公平的机器学习。然后,提出了一个三阶段的学习框架,其中决策模型在深度生成模型生成的高保真数据上进行训练,将优化问题制定为执行风险最小化,并采用了重复梯度下降算法进行学习。经验评估证明了所提出方法在合成和半合成数据集上的有效性。
Jan, 2024
研究算法决策对长期影响的动态学习设置,通过对决策规则和个人投资之间的互动进行建模,表明通过分组复制规则和投资成本补贴两种干预措施可实现更好的长期结果,但前提是要考虑到组内异质性以及可实现性的影响。
Oct, 2019
提出了一种新的公平定义,旨在解决机器学习系统中存在的历史偏见问题,特别是数据偏见。通过为分类问题提供实际的操作策略来证明其有效性和实用性,以消除过去对社会的不利影响。
May, 2020
通过研究现有文献,本调查从不同角度回顾了长期公平性的研究,并提出了一个分类法。我们突出了一些关键挑战,考虑了未来的研究方向,分析了现有的问题和潜在的深入探索。
Jun, 2024