Mar, 2023

机器学习开发中的公平性：从伦理原则到与利益相关者的持续协商实践

PDF
TL;DR本文阐述了机器学习中为何无法完全消除偏见，并提出一种端到端的方法论，将道德原则转化为机器学习开发实践，并支持团队逐步处理机器学习系统中的偏见，以及指南如何向用户解释这种不完美的权衡。
发现论文，激发创造
  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 机器学习中的公平性：一项调查

    这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

    Oct, 2020

  • 机器学习中的公平性与医疗保健中的公平性相遇

    本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。

    May, 2023

  • 机器学习系统公平性的提升：业界从业者需求如何？

    本文通过 35 个半结构化面谈和 267 个机器学习从业者的匿名调查，系统研究了商业产品团队开发公平的机器学习系统所面临的挑战和需求，发现了业界从业者面临的挑战及公平机器学习的研究文献中提出的解决方案之间的一些不协调之处，并提出了未来机器学习与人机交互研究的方向，以更好地满足产业从业者的需求。

    Dec, 2018

  • 机器学习开发者角度下的公平感评估

    本研究探讨了机器学习开发者对于公平性的感知和评估，通过一个焦点小组讨论的方式，发现开发者通常关注机器学习应用程序的整体设计和开发过程中的各种因素，包括业务需求、数据收集、预处理、处理和后处理等，并得出结论认为，组织公正理论的程序性方面可以解释开发者对公平性的感知。本研究的发现可以进一步用于协助开发团队在机器学习应用程序的开发周期中集成公平性，同时也可以激励机器学习开发者和组织开发评估机器学习应用程序公平性的最佳实践。

    Apr, 2023

  • 将公平原则付诸实践：挑战、度量和改进

    本文研究算法公平性在机器学习中的应用，并提出了衡量和解决算法公平性问题的新方法，包括公平性指标和模型训练优化。

    Jan, 2019

  • 应用公平性如何？

    该论文探讨了当前机器学习产品中的伦理问题，认为在实现一定程度上的公平性方面取得进展，即使这些进展并不能完全实现 “完全” 的公平或完全符合我们个人对公平度量的信念，也是一个应该受到欢迎的改进。这篇论文进一步阐述了这一观点及其重要性。

    Jun, 2018

  • 导航公正：AI/ML 发展中从业人员的理解、挑战与策略

    AI 实践者对 AI/ML 的公平性的理解、挑战、后果和策略以及进一步研究领域的识别，为确保 AI/ML 的公平性提供了宝贵的真实世界视角。

    Mar, 2024

  • AI 公正：从原则到实践

    本文总结和评估了追求人工智能系统公正性的各种方法和技术，提出了定义、衡量和预防人工智能偏见的实用指南，并针对评估人工智能系统偏见的一些简单但常见方法提出了更为复杂和有效的替代方案。此外它还提供了一个共同的语言来解决领域内普遍存在的争议和混乱。它描述了涉及人工智能公正性的各种权衡，并提供了实用建议来平衡这些权衡。本文提供了关于人工智能从业者、组织领导、政策制定者的讨论和指南，以及为技术观众提供更多相关资料的链接。通过举例清晰阐述了本文中所提到的概念、挑战和建议。

    Jul, 2022

  • 将机器学习的公正性与公共卫生平等联系起来

    本研究总结了关于机器学习公平性的基本文献，并提出了一个框架，用于识别和减轻数据和模型中的偏见，以实现更公正和公平的公共卫生机器学习模型。

    Apr, 2023