Nov, 2023

FinA：人工智能 - 物理系统决策中不公平的不良影响

PDF
TL;DR在人 - 网络 - 物理系统（HCPS）中确保决策系统公平性是一个紧迫的问题，本文从拥有多样行为和期望的个体，以及在系统中受控操作的共享集合的影响下共存的角度出发，以不断演化的人类行为和偏好为基础，正式引入了对不利影响公平性（FinA）的概念，并提出了五种包含即时和长期不利影响方面的 FinA 公式集合。通过在智能家居领域进行评估，验证了 FinA 方法的有效性，结果表明采用 FinA 显著增强了个体对公平性的整体感知，与现有方法相比平均改善了 66.7%。
fairnessdecision-making systemshuman-cyber-physical-systemsadverse effectsfina
发现论文，激发创造
  • 因果公平性分析

    本文提出了一个因果公平性分析的框架，以理解、建模和可能解决决策设置中的公平问题。研究挑战是挖掘潜在的因果机制并将各种公平度量与结构机制和人口单位归因。最后，提出了一个公平的菜谱，以评估不公平对各个人群的影响。

    Jul, 2022

  • FAIRO: 人类参与环节系统中基于公平性的顺序决策方案

    本文提出了一种考虑人类行为变化和公平效用权衡的算法 FAIRO，在多个人使用同一个系统的情况下，通过把公平问题分解成适应性子任务并采用强化学习方法，促进公平。实验证明，与其他方法相比，FAIRO 在三种 HITL 应用中平均提高了 35.36％的公平性。

    Jul, 2023

  • 公平博览会：将人类感知引入集体决策

    社会决策中公平性是最值得追求的原则之一，它在过去几十年中得到了广泛研究，近年来也得到了多智能体系统社区的重视。然而，这些研究往往不能充分捕捉到现实世界问题的复杂性和人们对公平性的认知。我们认为，社会规划者（设计者）不仅应该认为公平解是可取的，而且应该以人类和社会认知为基础，考虑基于人类判断的感知结果，并且可以进行验证。为了实现这一目标，需要从计算和人工智能到行为经济学和人机交互等广泛跨学科的方法。在这样做的过程中，我们指出了当前公平分配文献的不足和长期挑战，描述了近期在解决这些问题方面的努力，并更重要地强调了一系列开放的研究方向。

    Dec, 2023

  • 因果公平的结果控制

    本文研究了一种被称为结果控制的决策任务，尝试在实现最优结果的同时保证公平性，介绍了一种最小公平性要求的算法，并提出了分析受保护属性影响的工具。最后，提出了因果效益公平性的概念，并提出了一种新的最优化程序，能够确保决策过程中的因果公平性。

    Jun, 2023

  • 算法决策中的公平：通过因果镜头探究

    本研究通过因果模型的视角考虑了决策系统是否基于性别、种族、宗教等方面会造成歧视的问题，引入了基于因果关系的群体公平的两个定义：FACE 和 FACT，提出了鲁宾 - 尼曼潜在结果框架来鲁棒地估算 FACE 和 FACT，并在合成数据上展示了方法的有效性。同时，作者还在真实数据集上进行了分析，发现 FACT 比 FACE 更微妙，在不同情形下可得出不同结论。

    Mar, 2019

  • 走向负责任的 AI：探索基于人类中心的人工智能用户界面的设计空间，以研究公正性

    本研究提供了一种设计空间方法，通过人机交互设计支持数据科学家和领域专家对 AI 公平性进行调查，我们使用贷款申请作为实例，通过一系列研讨会，我们将贷款专员和数据科学家的需求实现到了 FairHIL 用户接口中。该研究通过 think-aloud 用户研究验证了 FairHIL 的可靠性，并为调查 AI 模型公平性提供更好的设计。

    Jun, 2022

  • SimFair: 基于模拟模型的物理引导公平感知学习

    使用物理引导的公平感知学习框架 SimFair，整合基于物理规律的模拟和逆向建模来解决仅有有限数据样本新区域的困境，进一步提高了公平性保护的效果。

    Jan, 2024

  • 面向公平性的对抗扰动：用于缓解部署的深度模型的偏差

    文章提出了一种灵活的方法来提高人工智能系统的公平性，即针对不同族群的公正性问题，利用对抗性扰动来盲化输入数据中与公平性相关的特征，该方法有效且具有出色的性能。

    Mar, 2022

  • 算法决策中公平和透明的人本视角

    该论文探讨了自动化决策系统在人类决策中的作用和不足，旨在通过深入研究来理解决策主体对于基于自动化决策系统的透明度的决策的不同感受，确保决策的质量、公正以及人性化。

    Apr, 2022

  • 人类与算法决策的主要公平性

    通过因果推断的主分层概念，引入了一个新的公平概念 —— 基本公平，以人类和算法决策为例。其核心思想是不应该歧视那些对决定影响相似的个体。与现有的统计公平定义不同，基本公平明确考虑了个体可能受到决策影响的事实。

    May, 2020