May, 2022

反思公平：对霸权机器学习公平方法批评的跨学科调查

PDF
TL;DR本文评估并比较了来自哲学、女性主义研究、批判性种族和民族研究、法律研究、人类学和科学技术研究等非计算学科的现有批评，旨在提供 ML 公正技术干预的跨学科理解，以此产生社会上最边缘化群体的公正结果，最后讨论了基于这些批评的未来 ML 公正研究方向。
machine learningfairnesscritiquessocietymarginalized
发现论文，激发创造
  • 机器学习中的公平性：一项调查

    这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

    Oct, 2020

  • 机器学习中交叉公平性综述：概念、缓解和挑战

    在一个综述中，作者回顾了交叉公平的最新进展并提供了分类法和矫正算法以缓解交叉偏差，最后指出研究者未来的研究方向和挑战。

    May, 2023

  • 无表示就无计算：通过多样性避免数据和算法偏见

    本文提倡将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学的从业人员提供具体的多样性措施建议，以增加多样性，并提高算法公平的实践水平。

    Feb, 2020

  • 机器学习系统公平性的提升：业界从业者需求如何？

    本文通过 35 个半结构化面谈和 267 个机器学习从业者的匿名调查，系统研究了商业产品团队开发公平的机器学习系统所面临的挑战和需求，发现了业界从业者面临的挑战及公平机器学习的研究文献中提出的解决方案之间的一些不协调之处，并提出了未来机器学习与人机交互研究的方向，以更好地满足产业从业者的需求。

    Dec, 2018

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 公平是什么？对公平机器学习的哲学思考及其含义

    本文旨在通过形式化一致的公平概念，将哲学讨论转化为 ADM 系统中 ML 模型培训和评估的一种正式框架，并提出了一般算法，以实现 fairML 的更高语言清晰度和实际应用。

    May, 2022

  • 公平的交集定义

    本研究提出了机器学习和人工智能系统中的公平性定义，并受到交叉性别、种族、性取向、阶级和残疾等影响因素的启发，通过保护属性子集合理分配资源，提供合理保护算法，同时在人口普查数据和 COMPAS 犯罪再犯数据集上进行案例研究。

    Jul, 2018

  • 机器学习中的偏差与公正调查

    调查表明，人工智能领域中存在各种偏见和不公，因此机器学习研究人员定义了公平性的分类，以解决现有 AI 系统中的偏见问题。此外，调查还考察了在 AI 的不同领域和子领域中，现有技术的问题及其应对措施，以期鼓励研究人员在其各自领域中研究此问题。

    Aug, 2019

  • 机器学习中的公平性前沿

    本篇论文综述了算法公平性的最新研究方向和现有的理论工作，以及 CCC 愿景研讨会上专家们提出的最有前途的研究方向。

    Oct, 2018

  • 人工智能模型中的公平追求：一项调查

    人工智能（AI）模型在我们的生活的各个方面得到广泛应用，如医疗、教育和就业。鉴于它们在许多敏感环境中使用并做出可能改变生活的决策，潜在的偏见结果成为一个紧迫问题。开发人员应确保这些模型不表现出任何意外的歧视做法，如对特定性别、种族或残疾人的偏袒。随着 AI 系统的广泛应用，研究人员和从业者对不公平的模型意识越来越强，并致力于减少其中的偏见。本文综述了研究人员在确保 AI 系统公平性方面所做的不同努力。我们探讨了当前文献中关于公平性的不同定义，通过对不同类型的偏见进行分类，研究了不同应用领域中存在的出现偏见的 AI 案例。我们对研究人员在减少 AI 模型偏见方面采用的方法和技术进行了详细研究。此外，我们还深入探讨了偏见模型对用户体验的影响以及在开发和部署此类模型时需要考虑的伦理问题。我们希望通过分享这份全面的综述，帮助研究人员和从业者理解 AI 系统中公平性和偏见的复杂问题。通过此综述，我们旨在促进公平和负责任 AI 领域的进一步讨论。

    Mar, 2024