Jan, 2024

实时决策的长期公平性：一种受限在线优化方法

PDF
TL;DR通过引入一个名为 LoTFair 的在线算法，本研究提出了一个框架，用于在具有时间变化公平性约束的动态决策系统中确保长期公平性。研究证明，LoTFair 可以在保持长期性能的同时，使整体公平性违规变得微不足道。
machine learningethicsfairnesslong-term fairnessonline optimization
发现论文，激发创造
  • 未知动态下的长期公平性

    本文提出了一种在在线强化学习中形式化长期公平的方法；该方法可以适应不同的控制目标，通过牺牲短期激励来推动分类器 - 人群系统朝着更理想的均衡状态发展，从而在损失和公平违规之间实现同时概率边界的算法。

    Apr, 2023

  • 机器学习中的长期公平性调查和追求：定义、方法和挑战的综述

    通过研究现有文献，本调查从不同角度回顾了长期公平性的研究，并提出了一个分类法。我们突出了一些关键挑战，考虑了未来的研究方向，分析了现有的问题和潜在的深入探索。

    Jun, 2024

  • 决策系统长期公平性的优势正则化策略优化

    本文介绍了使用深度强化学习方法来优化决策的长期公平性，通过比较三个案例，结果表明，我们的方法可以通过正则化不同动作的优势评估来轻松实现公平性约束而不需要奖励工程或牺牲训练效率。

    Oct, 2022

  • 实现序列决策中的长期公平性

    本文提出了一种框架，以实现长期公平的顺序决策制定。通过进行强制性和软性干预，我们提出了将路径特定效应作为测量长期公平性的定量工具的方法。公平的顺序决策制定问题被规定为一个以效用为目标、长期和短期公平性为约束条件的约束优化问题。我们展示了这样一个优化问题可以被转化为一个执行风险优化。最后，使用了重复风险最小化（RRM）进行模型训练，并在理论上分析了 RRM 的收敛性。经验证实，该算法在合成和半合成的时间数据集上表现良好。

    Apr, 2022

  • 基于深度生成模型的长期公平决策

    研究论文通过使用时间因果图和不同人群干预分布之间的 1-Wasserstein 距离作为定量指标，以减少顺序决策系统中的群体差异，研究了长期公平的机器学习。然后，提出了一个三阶段的学习框架，其中决策模型在深度生成模型生成的高保真数据上进行训练，将优化问题制定为执行风险最小化，并采用了重复梯度下降算法进行学习。经验评估证明了所提出方法在合成和半合成数据集上的有效性。

    Jan, 2024

  • 执行延迟影响公平性保证

    本研究介绍了 ELF 分类算法，通过考虑决策在人们的生活和福祉中所产生的长期影响，提供高可信的公平性保证，并证明了 ELF 返回不公平解决方案的概率小于用户指定的公差。同时我们的实验表明该算法能够成功地缓解长期的不公平现象。

    Aug, 2022

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 机器学习的准确性和公平性权衡：基于随机多目标方法的研究

    本文介绍了一种新的处理公平性的方法，通过建立一个随机多目标优化问题，得到一组准确且平衡的 Pareto 前沿，以此权衡准确度和公平性，以更高效地处理大量的流数据。

    Aug, 2020

  • 通过表现性分布鲁棒优化实现少数群体的长期公平性

    研究人员扩展了实现预测并加入分布式鲁棒性目标，以解决正式的公平标准存在的四个严重缺陷。

    Jul, 2022

  • 通过强化学习在动态系统中找到公平性的平衡点

    在这篇论文中，我们研究了在顺序决策中存在着动态系统的公平性问题，提出了一个基于马尔可夫决策过程的算法框架，通过预处理和处理中方法集成各种公平性考虑，平衡传统公平性、长期公平性和效用。

    Jan, 2024