Jul, 2023

FAIRO: 人类参与环节系统中基于公平性的顺序决策方案

HTML
PDF
TL;DR本文提出了一种考虑人类行为变化和公平效用权衡的算法FAIRO，在多个人使用同一个系统的情况下，通过把公平问题分解成适应性子任务并采用强化学习方法，促进公平。实验证明，与其他方法相比，FAIRO在三种HITL应用中平均提高了35.36％的公平性。
发现论文，激发创造
  • 序贯决策中的公平算法

    本文提出了一种基于Markov决策过程的反馈效应建模的方法，通过学习算法来实现公平的决策过程，并通过贷款申请MDP的模拟，证明了考虑动态影响的必要性。

    Jan, 2019

  • 公平上下文多臂赌博机：理论与实验

    本研究介绍一种带有公平性约束条件的多臂赌博算法，使用关于用户和任务的上下文信息进行决策制定，以展示公平的决策结果

    Dec, 2019

  • AI公平性与效用的联合优化：以人为本的方法

    本文提出了一种用于优化 AI 模型的框架和一些示例方法，根据人类政策制定者的偏好来平衡公平性、模型准确性等目标之间的平衡，以此来减少偏差和不公平。

    Feb, 2020

  • 使用平均和折扣奖励的多目标（深度）强化学习中学习公平策略

    研究了如何在自主系统操作中考虑公平性，并提出一种基于深度强化学习的公平策略学习框架，应用于多个领域中，包括折扣回报和平均回报算法。

    Aug, 2020

  • 重新思考人工智能与人类协作的公平性

    现有的算法公平性方法旨在确保人类决策者与算法决策完全一致，然而，在人工智能与人类协作中，与算法的完全一致很少实现或者甚至是不可取的。我们提出了“合规性鲁棒公平算法推荐”概念，它能够保证在决策中改善公平性，无论人类的合规模式如何。然而，我们发现设计同时具备独立公平性、合规性鲁棒公平性和比人类决策更准确的算法推荐可能是不可行的，因此，如果我们的目标是改善人工智能与人类协作的公平性和准确性，可能不应强制执行传统的公平性约束。

    Oct, 2023

  • 记得公平：关于序列决策中的非马尔可夫公平（初步报告）

    非马尔科夫公平关系在顺序决策制定中起着重要作用，研究涉及多方利益相关者和附加约束条件的决策制定过程中的公平性问题。

    Dec, 2023

  • 公平博览会：将人类感知引入集体决策

    社会决策中公平性是最值得追求的原则之一，它在过去几十年中得到了广泛研究，近年来也得到了多智能体系统社区的重视。然而，这些研究往往不能充分捕捉到现实世界问题的复杂性和人们对公平性的认知。我们认为，社会规划者（设计者）不仅应该认为公平解是可取的，而且应该以人类和社会认知为基础，考虑基于人类判断的感知结果，并且可以进行验证。为了实现这一目标，需要从计算和人工智能到行为经济学和人机交互等广泛跨学科的方法。在这样做的过程中，我们指出了当前公平分配文献的不足和长期挑战，描述了近期在解决这些问题方面的努力，并更重要地强调了一系列开放的研究方向。

    Dec, 2023

  • 通过强化学习在动态系统中找到公平性的平衡点

    在这篇论文中，我们研究了在顺序决策中存在着动态系统的公平性问题，提出了一个基于马尔可夫决策过程的算法框架，通过预处理和处理中方法集成各种公平性考虑，平衡传统公平性、长期公平性和效用。

    Jan, 2024

  • 强化学习中的公平性调查

    在本文中，我们调研了相关文献，提供了公平强化学习领域最新的发展概况。我们首先回顾了公平在强化学习中可能出现的情况，然后讨论了到目前为止提出的各种公平定义。接着，我们突出了研究人员在单智能体和多智能体强化学习系统中实现公平的方法论，并展示了公平强化学习在不同应用领域的研究成果。最后，我们对文献中的问题进行了批判性的分析，如公平性在RLHF上的理解，这些问题需要在未来的工作中解决，以真正使公平强化学习在实际系统中得以应用。

    May, 2024

  • 正向强化学习的序列多智能体选择中的长期公平性

    研究了在多个代理人从共同申请人池中选择的情况下，多代理人公平贪心策略的 long-term fairness 目标集收敛性，并通过合成和适应现实世界数据集提供了实证证据，同时指出在更复杂的申请人池演化模型中，若代理人不协调行动可能会导致负反馈，降低少数群体的申请人比例。

    Jul, 2024