May, 2024

Aequitas Flow：简化公平机器学习实验

PDF
TL;DRAequitas Flow 是一个用于 Python 的开源框架，用于端到端公平机器学习实验。该框架提供了公平模型训练、超参数优化和评估的流程，旨在提高公平机器学习实践的可扩展性和采用度。
aequitas flowfair machine learningpythonframeworkfair ml practices
发现论文，激发创造
  • Aequitas: 偏差和公正审核工具包

    研究人员开发了一个名为 Aequitas 的开源工具包，该工具包可帮助数据科学家、机器学习研究人员和政策制定者测试多个偏差和公平度量标准，以实现对算法决策制定系统进行有根据的和公平的决策。

    Nov, 2018

  • 自动化有向公平性测试

    AEQUITAS 是一种自动化技术，可以发现系统内机器学习模型对待敏感输入的不公平性，使用概率搜索和测试用例生成等策略，生成能够检测不公平性的测试用例，并使用这些测试用例来提高模型的公平性，AEQUITAS 技术的实验表明，最多可提高 94% 的公平性。

    Jul, 2018

  • 将机器学习的公正性与公共卫生平等联系起来

    本研究总结了关于机器学习公平性的基本文献，并提出了一个框架，用于识别和减轻数据和模型中的偏见，以实现更公正和公平的公共卫生机器学习模型。

    Apr, 2023

  • 机器学习中的公平性与医疗保健中的公平性相遇

    本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。

    May, 2023

  • 公平架构：超越预测结果均等的公平

    该论文研究了机器学习决策算法在预测决策中的使用，强调了公平问题以及如何实现公正决策，提出了一个平等框架并给出了平等评分算法和指导决策者的问题。

    Apr, 2022

  • 机器学习开发中的公平性：从伦理原则到与利益相关者的持续协商实践

    本文阐述了机器学习中为何无法完全消除偏见，并提出一种端到端的方法论，将道德原则转化为机器学习开发实践，并支持团队逐步处理机器学习系统中的偏见，以及指南如何向用户解释这种不完美的权衡。

    Mar, 2023

  • AI Fairness 360: 检测、理解和缓解不良算法偏差的可扩展工具包

    介绍了一种新的开源 Python 工具包 - AI Fairness 360 (AIF360)，用于支持决策性应用程序的算法公平性，该工具包包括公平度量标准、算法对数据集和模型执行偏差检测和修复以及参考指南和教程。

    Oct, 2018

  • 朝着实现以管道为导向的机器学习公平性：开发实用准则和工具的研究议程

    通过调查公平机器学习文献并收集先前工作，本研究为机器学习研究者、从业者和学生绘制了探索、设计和测试面向算法公平性的管道导向方法的更全面资源集。

    Sep, 2023

  • Fairlearn: 评估和改进 AI 系统的公平性

    Fairlearn 是一个开源项目，旨在帮助从业人员评估和提高人工智能系统的公平性。项目包括名为 fairlearn 的 Python 库，支持跨受影响人群评估模型输出，并包含多种解决公平性问题的算法。在公平性是一个社会技术挑战的认识基础上，该项目整合学习资源，帮助从业人员考虑系统在更广泛的社会背景下的作用。

    Mar, 2023

  • 统计公平：一种公平分类目标

    提出了一种新的公平定义，旨在解决机器学习系统中存在的历史偏见问题，特别是数据偏见。通过为分类问题提供实际的操作策略来证明其有效性和实用性，以消除过去对社会的不利影响。

    May, 2020