ICLRMay, 2020

通过基于社区的系统动态参与式问题制定，实现更公平的机器学习

PDF
TL;DR本文介绍社区基础系统动力学 (CBSD) 方法作为一种促进典型被排除利益相关者参与机器学习系统开发中问题构建阶段、促进深入理解问题并缓解偏差的方法。
algorithmic fairnessml system developmentbias mitigationstakeholder participationproblem formulation
发现论文，激发创造
  • 将机器学习的抽象边界扩展：采用复杂系统方法纳入社会背景

    本篇论文利用复杂自适应系统、协作因果理论形成和以社区为基础的系统动力学三种方法来帮助人们更好地理解、识别和表达社会背景，提出了如何通过系统论方法来改进机器学习的公平性，包括将机器学习公平性的抽象范围扩展至社会背景等方面，以实现公平和包容的机器学习产品的开发。

    Jun, 2020

  • 在预测儿童虐待系统中获取利益相关方的公正概念

    提出了一种利用用户界面和采访协议结合的框架，以考虑利益相关者的主观公平观念，并应用于儿童虐待预测系统的用户研究中，结果表明该框架可以全面传达利益相关者的公平观点，对于预测系统的设计具有启示意义。

    Feb, 2021

  • 通过强化学习在动态系统中找到公平性的平衡点

    在这篇论文中，我们研究了在顺序决策中存在着动态系统的公平性问题，提出了一个基于马尔可夫决策过程的算法框架，通过预处理和处理中方法集成各种公平性考虑，平衡传统公平性、长期公平性和效用。

    Jan, 2024

  • 机器学习开发中的公平性：从伦理原则到与利益相关者的持续协商实践

    本文阐述了机器学习中为何无法完全消除偏见，并提出一种端到端的方法论，将道德原则转化为机器学习开发实践，并支持团队逐步处理机器学习系统中的偏见，以及指南如何向用户解释这种不完美的权衡。

    Mar, 2023

  • 社会技术系统中降低学习算法歧视以促进社会公益

    通过使用贝叶斯优化算法，解决了智慧出行倡议中机器学习算法所带来的社会不平等问题。

    Nov, 2020

  • 动态系统中的公平因果模型

    本文介绍因果有向无环图作为公平性动态系统研究的一个统一框架，阐明了因果假设如何表达和操作，说明了计算干预数量的重要性，并说明了因果假设能够在已知环境动态的情况下进行模拟和在未知动态下进行干预估计，以实现对短期和长期结果的干预，无论是在群体还是个人的层面上。

    Sep, 2019

  • 机器学习中预测公平性的形式化

    探讨机器学习算法公平性如何在预测任务中被正式化，并提供相应的社会科学文献中分配公正的概念，通过理论和实证批判这些概念，并解释这些批判如何限制相应公平正式化的适用性和讨论潜在公平正式化的路径。

    Oct, 2017

  • 机器学习系统公平性的提升：业界从业者需求如何？

    本文通过 35 个半结构化面谈和 267 个机器学习从业者的匿名调查，系统研究了商业产品团队开发公平的机器学习系统所面临的挑战和需求，发现了业界从业者面临的挑战及公平机器学习的研究文献中提出的解决方案之间的一些不协调之处，并提出了未来机器学习与人机交互研究的方向，以更好地满足产业从业者的需求。

    Dec, 2018

  • 推进社区参与方法，确定对健康诊断算法中种族偏见的结构性驱动因素

    本文呈现了通过定量和模拟建模分析使用系统动力学了解人工智能种族偏见和对健康不平等影响的结果和见解，并强调将数据和医疗保健讨论集中于人们及其医疗和科学体验，以及认识算法操作的社会背景的重要性，社区创伤的集体记忆是寻求治疗和体验有效治疗的内生驱动因素，这些因素对不同种族群体的初值条件具有明显的不平等性。

    May, 2023

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020