May, 2022

探讨机器学习从业者如何使用公正工具包

PDF
TL;DR本文通过深入实证探究了行业从业者如何学习、使用公平性工具集，提出了公平性工具集需要更好地满足从业者的需求并支持其更有效和负责任地使用工具集的几个机会和启示。
ml fairness toolkitsindustry practitionersfairnessempirical explorationopen-source
发现论文，激发创造
  • 机器学习系统公平性的提升：业界从业者需求如何？

    本文通过 35 个半结构化面谈和 267 个机器学习从业者的匿名调查，系统研究了商业产品团队开发公平的机器学习系统所面临的挑战和需求，发现了业界从业者面临的挑战及公平机器学习的研究文献中提出的解决方案之间的一些不协调之处，并提出了未来机器学习与人机交互研究的方向，以更好地满足产业从业者的需求。

    Dec, 2018

  • 导航公正：AI/ML 发展中从业人员的理解、挑战与策略

    AI 实践者对 AI/ML 的公平性的理解、挑战、后果和策略以及进一步研究领域的识别，为确保 AI/ML 的公平性提供了宝贵的真实世界视角。

    Mar, 2024

  • 一个众包平台上的机器学习模型是否会表现出偏见？模型公正性的实证研究

    本文展示了在真实世界中基于 40 个高评分 Kaggle 模型的公平性评估及其 7 种缓解技术的实证研究。结果发现，部分优化技术会导致模型失公，尽管机器学习库中有公平控制机制，但这些机制未被记录。最佳的降低失公的方法往往存在权衡和代价.

    May, 2020

  • 机器学习开发者角度下的公平感评估

    本研究探讨了机器学习开发者对于公平性的感知和评估，通过一个焦点小组讨论的方式，发现开发者通常关注机器学习应用程序的整体设计和开发过程中的各种因素，包括业务需求、数据收集、预处理、处理和后处理等，并得出结论认为，组织公正理论的程序性方面可以解释开发者对公平性的感知。本研究的发现可以进一步用于协助开发团队在机器学习应用程序的开发周期中集成公平性，同时也可以激励机器学习开发者和组织开发评估机器学习应用程序公平性的最佳实践。

    Apr, 2023

  • 机器学习中的公平性：一项调查

    这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

    Oct, 2020

  • FairLay-ML: 数据驱动型社会关键算法中不公平现象的直观解决方案

    本文介绍了 FairLay-ML，一种结合了已有研究工具的图形用户界面，能够提供机器学习模型中不公平逻辑的直观解释，具有易于安装、提供实时黑盒解释和可执行的解决方案等特点。

    Jul, 2023

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 朝着实现以管道为导向的机器学习公平性：开发实用准则和工具的研究议程

    通过调查公平机器学习文献并收集先前工作，本研究为机器学习研究者、从业者和学生绘制了探索、设计和测试面向算法公平性的管道导向方法的更全面资源集。

    Sep, 2023

  • 适合工作的工具：机器学习中的开源审计工具

    本文强调了在机器学习中使用公平性、责任性、透明度和伦理 (FATE) 工具的紧迫性，并提供了使用开源工具的动机。

    Jun, 2022

  • 机器学习开发中的公平性：从伦理原则到与利益相关者的持续协商实践

    本文阐述了机器学习中为何无法完全消除偏见，并提出一种端到端的方法论，将道德原则转化为机器学习开发实践，并支持团队逐步处理机器学习系统中的偏见，以及指南如何向用户解释这种不完美的权衡。

    Mar, 2023