Apr, 2024

算法公平性：一个容忍视角

PDF
TL;DR机器学习和深度学习的最新进展使得算法公平成为一个关注焦点，引发对影响某些个体或群体的歧视性决策的担忧。本调研综述基于 “容忍度” 提出了一个新的分类系统，揭示了算法决策中公平的微妙性。通过分析多个行业，我们的系统性综述揭示了算法决策与社会公平之间的关键见解。通过综合这些见解，我们勾勒出一系列新兴挑战，并提出未来研究和政策制定的战略方向，以推动该领域朝着更加公平的算法系统发展。
machine learningdeep learningalgorithmic fairnesssocial consequencesemerging challenges
发现论文，激发创造
  • 公平性概念及相关紧张关系综述

    本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。

    Sep, 2022

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 商业分析中的算法公正性：研究与实践方向

    该论文提供了针对算法公平性的业务分析的前瞻性评论，首先审查了偏差的来源和度量标准以及偏差缓解算法的最新研究进展，然后详细讨论了效用公平关系，并最终确定了业务学者可以解决和解决的关键挑战，这些挑战对 BA 的有效和负责任的部署至关重要。

    Jul, 2022

  • 深度学习中的公平性：计算视角

    该文章从计算视角对深度学习算法的公平性问题进行了综述和分类总结，重点讨论了通过解释性来诊断算法歧视和推进公平深度学习体系的公平化方法。

    Aug, 2019

  • 公平且无偏的算法决策制定：现状与未来挑战

    机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

    Jan, 2019

  • 足够公平？对 “公平” 算法要求的当前限制图谱

    提出了针对自动决策系统的公平需求的知觉差异，指出了社会必须解决的基本模糊性和关注点列表，并为自动决策系统中对公平的增加需求赋予了具体含义。

    Nov, 2023

  • 教育中的算法公平性

    介绍算法公平性在教育中的应用，关注预测模型、偏见和歧视，给出了在教育技术中如何促进算法公正性的方针建议。

    Jul, 2020

  • 算法招聘中的公正性和偏见

    多领域调查为从业人员和研究者提供一个均衡和综合的覆盖，涵盖算法招聘、偏见、度量、缓解策略、数据集和法律方面，旨在支持对这项技术的情境化理解与治理，并提供未来工作的建议，以确保所有利益相关方共享利益。

    Sep, 2023

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 公平性与序贯决策：局限性、教训和机遇

    本文比较和讨论了算法公平性和道德决策制定两个主要领域的研究成果，探讨了其规范关切、不同技术方案的可行性，并阐述了两种领域对对方有用的思想。

    Jan, 2023