Jun, 2024

OxonFair：一种灵活的算法公平工具包

HTML
PDF
TL;DROxonFair是一个开源工具包，用于在二元分类问题中实施公平性约束，并支持NLP、计算机视觉分类以及标准的表格问题，并能在验证数据上实施公平性约束以应对过拟合挑战，并且可以优化基于真正例、假正例、假负例和真负例的任何度量标准，提供更多表达能力和可扩展性，同时支持两篇热门研究论文中的9/9和10/10决策组度量标准，并联合优化性能目标，从而不仅最小化公平性约束对性能的降低，还可以提高否则调整不足的不公平基准模型的性能。
发现论文，激发创造
  • 基于置信度的公平性与准确性平衡方法

    研究三种经典机器学习算法（自适应 boosting，支持向量机和逻辑回归算法）在算法公平性方面的应用，旨在通过改变决策边界以减少对某一保护组成员的歧视。提出的方法在准确度和低歧视方面与先前的算法相当或优于，同时允许快速透明地量化偏差和误差之间的权衡。通过新的公平度量（RRB），结合偏差和准确性来提供算法公平性的更完整的图景。

    Jan, 2016

  • 通过鲁棒性实现文本分类的反事实公平性

    本文研究文本分类中的反事实公平性问题，提出了一种度量特定公平性形式——反事实令牌公平性(CTF)的度量准则，利用三种方法——盲化、反事实增强和反事实逻辑配对(CL)解决训练中的反事实令牌公平性优化问题，这些方法不会影响分类器性能，并且在小组公平性方面具有变化，为解决文本分类中的公平性问题提供了新的途径。

    Sep, 2018

  • AI Fairness 360: 检测、理解和缓解不良算法偏差的可扩展工具包

    介绍了一种新的开源Python工具包- AI Fairness 360 (AIF360)，用于支持决策性应用程序的算法公平性，该工具包包括公平度量标准、算法对数据集和模型执行偏差检测和修复以及参考指南和教程。

    Oct, 2018

  • AdaFair: 累积公平自适应提升算法

    研究机器学习如何处理公平性和防止基于敏感属性的预测性歧视问题，并提出一种名为AdaFair的基于AdaBoost分类器的方法，该方法显式地处理类别不平衡并在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面比现有的公平性方法表现显著好25％。

    Sep, 2019

  • 机器学习中的公平性：一项调查

    这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

    Oct, 2020

  • 医学影像公平性基准测试

    该研究介绍了MEDFAIR框架，可以用于医学成像机器学习模型的公平性评估和算法的基准测试，通过实验发现模型选择标准可以对公平性结果产生重要影响，并在不同的应用场景和伦理原则下提供了建议。

    Oct, 2022

  • 迈向公平机器学习软件：通过反事实推理理解和解决模型偏见

    本研究通过反事实思考，提出一种针对ML软件中偏见根源的创新对策，并将优化性能和公平性模型相结合，成功提高了ML软件的公平性并保持了高竞争力性能

    Feb, 2023

  • 基于分布感知的公平性测试生成

    该研究提出了一种称为DistroFair的分布感知公平性测试方法，通过组合分布感知图像变异、无分布测试和语义保留图像变异等方法，系统地揭示了图像分类器中的类级公平性违规，并通过评估结果表明，DistroFair比传统方法更加有效。

    May, 2023

  • FFB: 一种公平公正性基准，用于处理组公平性方法

    本篇论文介绍了公平公正基准（ extsf{FFB}）, 一个用户处理群体公平性方法的评估框架，并提供了最新方法的全面分析，以确保不同标准的群体公平性。

    Jun, 2023

  • 基于LLM的决策中引导群体公平性

    通过评估LLM（大型语言模型）在毒性分类任务中的公平性表现，我们引入多种修复技术并对公平性和性能进行了评估，以鼓励在基于LLM的分类器中进行更多关于群体公平性的研究。

    Jun, 2024