Nov, 2018

交叉公平的贝叶斯建模：偏差的方差

PDF
TL;DR本文针对交织系统对包括种族、性别、性取向、阶级和残疾等方面影响个体的观点，提出了一种皮尔逊贝塔贝叶斯概率建模方法，来对多重受保护属性的公正性进行可靠、高效的估算，以及模型建立和公正性测量的实用性解决方案。
intersectionalityartificial intelligencefairnessmulti-dimensional protected attributesbayesian modeling
发现论文，激发创造
  • 公平的交集定义

    本研究提出了机器学习和人工智能系统中的公平性定义，并受到交叉性别、种族、性取向、阶级和残疾等影响因素的启发，通过保护属性子集合理分配资源，提供合理保护算法，同时在人口普查数据和 COMPAS 犯罪再犯数据集上进行案例研究。

    Jul, 2018

  • 交叉公平性：分形方法

    通过在超立方体的几何设置下，将交叉公平问题分层分析，证明了公平并不向下传递，但会向上传递，探讨了公平作为自相似、分形、关联属性在人工智能中的自然涌现。

    Feb, 2023

  • 机器学习中交叉公平性综述：概念、缓解和挑战

    在一个综述中，作者回顾了交叉公平的最新进展并提供了分类法和矫正算法以缓解交叉偏差，最后指出研究者未来的研究方向和挑战。

    May, 2023

  • 分类问题中审计和实现交叉公平性

    本文研究关于机器学习中的公平性问题，针对多种敏感属性，提出了应对交叉性公平性偏差的方法，定义了一系列评估数据或模型输出结果公平性的指标，并开发了后处理技术来减轻分类模型的交叉性偏差。这些技术不依赖于底层模型的任何假设，并可以保持公平性和预测性能的平衡。最后，展示了在实际数据集上提出的方法的有效性。

    Nov, 2019

  • 权力结构矩阵的因素分解：对 AI 公平性中交叉性理论的批判性评论和再想象

    本研究探讨交叉性是如何应用于 AI Fairness 领域，并指出研究人员在这个应用方面所存在的概念和实践差距，并提出了关于如何改进这种状况的建议。

    Mar, 2023

  • 如何捕捉交叉公平性

    本文提出了一种新的框架 ——α 交叉公平（Intersectional Fairness）框架，来解决交叉敏感群体的分类问题，提出了一种新的公平度量，并在实验中验证了该框架的有效性以及一些算法的有效性。

    May, 2023

  • 使用最坏情况比较来特征化交叉群体公平性

    本文旨在探讨机器学习或人工智能算法因本身的偏见与成见会影响其输出结果的问题，分析现有关于交叉区域公平性的定义和衡量指标，并提出了一个简单的最坏情况比较方法来扩展现有群体公平指标的定义以涵盖交叉区域，最后讨论了处理关于交叉区域公平的社会、法律和政治框架。

    Jan, 2021

  • 信用中的公平模型：交叉歧视与不公平加剧

    使用机器学习在信用建模中的新数据来源引发了涉及受保护特征（例如种族、性别、年龄）或其他社会经济与人口统计数据的不公平决策的担忧。本文通过微金融背景展示了此类算法偏见的影响，并综合干预性的视角研究了以性别、年龄、婚姻状况、单亲状态和子女数量为定义的不同群体之间的信用分配不公平问题。我们发现在多元社会中应用自动化决策系统时，交叉性别、年龄和家庭状况的身份会影响信用分配模式，而机器学习技术对社会公平与不公平视而不见。因此，更全面地考虑交叉身份可以增强算法公平性的视角，更真实地推动平等结果，并提供更公正的前进路径。同时，我们发现除了受法律保护的特征外，像单亲状态和子女数量这样的敏感属性也可能导致不平衡的伤害。本研究对金融服务行业的影响进行了讨论。

    Aug, 2023

  • 评估化解交叉偏见技术

    这篇论文探讨了在自然语言处理模型中的偏差对模型的影响，提出了针对多个保护属性进行评估的自动去偏差技术，并研究了一个新的有偏约束模型及其扩展版本的迭代零空间投影技术。

    Sep, 2021

  • 交叉不公平发现

    AI 系统在特定人群中产生不公平结果，需要理解特定敏感属性上的偏见。本文通过发现交叉敏感属性下多样化的高偏见子群体，提出了一种基于偏见引导的生成网络（BGGN）。通过将每个偏见值视为奖励，BGGN 可以高效地生成高偏见的交叉敏感属性。实验证明 BGGN 在现实世界的文本和图像数据集上具有多样性且高效的发现能力。进一步评估生成的未见但可能存在不公平的交叉敏感属性，我们将其建模为提示，并使用现代生成型人工智能生成新的文本和图像。频繁生成偏见数据的结果为发现流行现代生成型人工智能系统中潜在的不公平提供了新的见解。警告：本文包含具有冒犯性的生成示例。

    May, 2024