Mar, 2023

权力结构矩阵的因素分解：对 AI 公平性中交叉性理论的批判性评论和再想象

PDF
TL;DR本研究探讨交叉性是如何应用于 AI Fairness 领域，并指出研究人员在这个应用方面所存在的概念和实践差距，并提出了关于如何改进这种状况的建议。
发现论文，激发创造
  • 公平的交集定义

    本研究提出了机器学习和人工智能系统中的公平性定义，并受到交叉性别、种族、性取向、阶级和残疾等影响因素的启发，通过保护属性子集合理分配资源，提供合理保护算法，同时在人口普查数据和 COMPAS 犯罪再犯数据集上进行案例研究。

    Jul, 2018

  • 反思公平：对霸权机器学习公平方法批评的跨学科调查

    本文评估并比较了来自哲学、女性主义研究、批判性种族和民族研究、法律研究、人类学和科学技术研究等非计算学科的现有批评，旨在提供 ML 公正技术干预的跨学科理解，以此产生社会上最边缘化群体的公正结果，最后讨论了基于这些批评的未来 ML 公正研究方向。

    May, 2022

  • 机器学习中交叉公平性综述：概念、缓解和挑战

    在一个综述中，作者回顾了交叉公平的最新进展并提供了分类法和矫正算法以缓解交叉偏差，最后指出研究者未来的研究方向和挑战。

    May, 2023

  • 交叉公平的贝叶斯建模：偏差的方差

    本文针对交织系统对包括种族、性别、性取向、阶级和残疾等方面影响个体的观点，提出了一种皮尔逊贝塔贝叶斯概率建模方法，来对多重受保护属性的公正性进行可靠、高效的估算，以及模型建立和公正性测量的实用性解决方案。

    Nov, 2018

  • 交叉公平性：分形方法

    通过在超立方体的几何设置下，将交叉公平问题分层分析，证明了公平并不向下传递，但会向上传递，探讨了公平作为自相似、分形、关联属性在人工智能中的自然涌现。

    Feb, 2023

  • 分类问题中审计和实现交叉公平性

    本文研究关于机器学习中的公平性问题，针对多种敏感属性，提出了应对交叉性公平性偏差的方法，定义了一系列评估数据或模型输出结果公平性的指标，并开发了后处理技术来减轻分类模型的交叉性偏差。这些技术不依赖于底层模型的任何假设，并可以保持公平性和预测性能的平衡。最后，展示了在实际数据集上提出的方法的有效性。

    Nov, 2019

  • 使用最坏情况比较来特征化交叉群体公平性

    本文旨在探讨机器学习或人工智能算法因本身的偏见与成见会影响其输出结果的问题，分析现有关于交叉区域公平性的定义和衡量指标，并提出了一个简单的最坏情况比较方法来扩展现有群体公平指标的定义以涵盖交叉区域，最后讨论了处理关于交叉区域公平的社会、法律和政治框架。

    Jan, 2021

  • AI 实践中的公平性

    AI Fairness 领域存在多种理解和多样化的公平概念，对此，本文提出了一种基于上下文和以社会为中心的方法来帮助项目团队更好地识别、减轻和处理人工智能项目流程中出现的不公平偏见和歧视，并讨论了如何通过自我评估、风险管理和公平准则的文档化来实现 AI 公平原则。

    Feb, 2024

  • AI 公平性工业实践中的跨职能协作实践和机遇调查

    本研究旨在更好地了解业界从业人员在跨职能协同合作 AI 公平方面的现状和策略，以识别支持更有效协作的机会，并关注业界从业人员在此过程中承担的隐性劳动。

    Jun, 2023

  • 公正的意义是什么？残障、人工智能与正义复杂性

    本文通過殘疾人的角度分析了人工智能對殘疾人的道德影響，並且提出了讓研究者進一步關注道德正義而非簡單的公平性的思路。

    Aug, 2019