Nov, 2018

Aequitas: 偏差和公正审核工具包

PDF
TL;DR研究人员开发了一个名为 Aequitas 的开源工具包，该工具包可帮助数据科学家、机器学习研究人员和政策制定者测试多个偏差和公平度量标准，以实现对算法决策制定系统进行有根据的和公平的决策。
unintended biasai systemsfairnessaequitasmachine learning
发现论文，激发创造
  • 放射学人工智能中的公平性导航：概念、后果和关键考虑

    本文评述了人工智能在放射学中的应用，特别关注了平等和比例性公正等算法的实际使用以及如何使用开源的 Aequitas 工具包进行偏见审计，以确保数据集的公正性和避免 AI 模型中的隐含偏见。

    Jun, 2023

  • 自动化有向公平性测试

    AEQUITAS 是一种自动化技术，可以发现系统内机器学习模型对待敏感输入的不公平性，使用概率搜索和测试用例生成等策略，生成能够检测不公平性的测试用例，并使用这些测试用例来提高模型的公平性，AEQUITAS 技术的实验表明，最多可提高 94% 的公平性。

    Jul, 2018

  • 适合工作的工具：机器学习中的开源审计工具

    本文强调了在机器学习中使用公平性、责任性、透明度和伦理 (FATE) 工具的紧迫性，并提供了使用开源工具的动机。

    Jun, 2022

  • 均等混淆公平性：在自动决策系统中测量基于群体的不公平差异

    随着人工智能在影响人类和社会的决策中扮演越来越重要的角色，自动化决策系统的问责制越来越受到研究人员和从业者的关注。然而，在评估公平性方面，文献中存在着大量采用不同视角和假设的公平度量标准，这通常是不兼容的。本文提出了一个新的等混乱公平测试来检查自动化决策系统的公平性，并提出了一个新的混淆平等误差来量化任何不公平性的程度。通过对自动化决策系统 COMPAS 进行案例研究，证明了这里提供的测试、度量和事后分析的实用性。

    Jul, 2023

  • 统计公平：一种公平分类目标

    提出了一种新的公平定义，旨在解决机器学习系统中存在的历史偏见问题，特别是数据偏见。通过为分类问题提供实际的操作策略来证明其有效性和实用性，以消除过去对社会的不利影响。

    May, 2020

  • 机器学习中的公平性与医疗保健中的公平性相遇

    本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。

    May, 2023

  • Aequitas Flow：简化公平机器学习实验

    Aequitas Flow 是一个用于 Python 的开源框架，用于端到端公平机器学习实验。该框架提供了公平模型训练、超参数优化和评估的流程，旨在提高公平机器学习实践的可扩展性和采用度。

    May, 2024

  • AI 实践中的公平性

    AI Fairness 领域存在多种理解和多样化的公平概念，对此，本文提出了一种基于上下文和以社会为中心的方法来帮助项目团队更好地识别、减轻和处理人工智能项目流程中出现的不公平偏见和歧视，并讨论了如何通过自我评估、风险管理和公平准则的文档化来实现 AI 公平原则。

    Feb, 2024

  • AI Fairness 360: 检测、理解和缓解不良算法偏差的可扩展工具包

    介绍了一种新的开源 Python 工具包 - AI Fairness 360 (AIF360)，用于支持决策性应用程序的算法公平性，该工具包包括公平度量标准、算法对数据集和模型执行偏差检测和修复以及参考指南和教程。

    Oct, 2018

  • FairCompass：机器学习中的公平操作

    提出了一种名为 'FairCompass' 的人在循环中的公平审计方法，通过混合可视化分析系统将子组发现技术和基于决策树的模式集成到终端用户中，以促进可视分析的知识生成模型的使用，在实际情境中评估了 FairCompass 的公平审计效果，结果显示该系统在实际应用上具有潜力，望能填补公平性研究中的现行空白并促进在机器学习系统中的公平性操作实施。

    Dec, 2023