Oct, 2018

AI Fairness 360: 检测、理解和缓解不良算法偏差的可扩展工具包

PDF
TL;DR介绍了一种新的开源 Python 工具包 - AI Fairness 360 (AIF360)，用于支持决策性应用程序的算法公平性，该工具包包括公平度量标准、算法对数据集和模型执行偏差检测和修复以及参考指南和教程。
发现论文，激发创造
  • 通过 AIF360 对重新加权样本进行偏差缓解的综合验证

    这篇研究论文系统地研究了对传统机器学习模型中重新加权样本的有效性，通过对 Adult Income 和 COMPUS 数据集上的五个模型进行二分类，并使用五个公平度量评估预测结果，揭示了实现传统机器学习模型公正性的重新加权样本的复杂性，以及偏倚动态的复杂性。

    Dec, 2023

  • Aequitas: 偏差和公正审核工具包

    研究人员开发了一个名为 Aequitas 的开源工具包，该工具包可帮助数据科学家、机器学习研究人员和政策制定者测试多个偏差和公平度量标准，以实现对算法决策制定系统进行有根据的和公平的决策。

    Nov, 2018

  • AI 偏见探索的标准化方向

    创建公平的 AI 系统是一个复杂的问题，涉及评估上下文相关的偏见问题。本文提出了一个数学框架，将偏见的文献度量指标化为构建模块，从而促进涵盖广泛公平问题的新组合，我们还提供了一个名为 FairBench 的 Python 库，用于有系统且可扩展地探索潜在的偏见问题。

    May, 2024

  • FairCompass：机器学习中的公平操作

    提出了一种名为 'FairCompass' 的人在循环中的公平审计方法，通过混合可视化分析系统将子组发现技术和基于决策树的模式集成到终端用户中，以促进可视分析的知识生成模型的使用，在实际情境中评估了 FairCompass 的公平审计效果，结果显示该系统在实际应用上具有潜力，望能填补公平性研究中的现行空白并促进在机器学习系统中的公平性操作实施。

    Dec, 2023

  • Fairlearn: 评估和改进 AI 系统的公平性

    Fairlearn 是一个开源项目，旨在帮助从业人员评估和提高人工智能系统的公平性。项目包括名为 fairlearn 的 Python 库，支持跨受影响人群评估模型输出，并包含多种解决公平性问题的算法。在公平性是一个社会技术挑战的认识基础上，该项目整合学习资源，帮助从业人员考虑系统在更广泛的社会背景下的作用。

    Mar, 2023

  • 适合工作的工具：机器学习中的开源审计工具

    本文强调了在机器学习中使用公平性、责任性、透明度和伦理 (FATE) 工具的紧迫性，并提供了使用开源工具的动机。

    Jun, 2022

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 利用因果推断和随机实验测量、解释和改善算法的公平性

    本文利用因果推断和解释性机器学习的最新进展，提出了一种算法无关的框架 (MIIF)，用于测量、解释和改进算法决策的公平性。我们使用随机实验来测量算法偏差，从而能够同时测量不同对待、不同影响和经济价值。此外，利用现代解释性技术，我们开发了一个可解释的机器学习模型，准确解释和提炼黑盒算法的信念。总的来说，这些技术为研究算法公平性创造了一个简单而强大的工具集，特别适用于理解实际应用中公平性成本的电子商务和目标广告等领域，其中行业的 A/B 测试已经非常丰富。

    Sep, 2023

  • 针对监督学习模型的个体不公平性识别、测量和缓解以及其在信用风险模型中的应用

    本文旨在通过实现一个两步训练过程来识别和减轻个人不公平，并利用最近在此领域发表的一些技术，特别是在信贷审批用例中适用的技术。我们还调查了实现个人公平性的技术在实现团体公平性方面的有效程度以及提出了第二度量标准来确定模型如何公平地处理类似的个体，最后呈现了一些与个人不公平减轻技术相关的实验结果。

    Nov, 2022

  • 公平性评分和流程标准化：人工智能系统公平认证框架

    本文提出了一种新的公平得分和标准操作程序，用于发放公平认证，以确保人工智能系统是公平的，避免偏见、提高可信度。发放公平认证在商业部署中具有操作框架和促进公平概念的优点。通过多个数据集迭代培训模型并比较受保护属性中的比较偏见，验证了提出的框架的正确性。

    Jan, 2022