通过超参数优化促进公平性

Mar, 2021

Promoting Fairness through Hyperparameter Optimization

André F. Cruz, Pedro Saleiro, Catarina Belém, Carlos Soares, Pedro Bizarro

TL;DR本文探讨了为了预测性能而优化机器学习模型时出现的不公平现象，以及如何通过公平感知的超参数优化来减轻这种不公平现象。我们提出并评估了三种受欢迎的公平感知的超参数优化算法的变种：Fair Random Search、Fair TPE 和 Fairband，并在实际案例研究和公平性文献中的三个数据集上验证了我们的方法，结果表明，无需额外的训练成本，可以找到 111% 平均公平性增加和仅 6% 性能下降的模型。

Abstract

Considerable research effort has been guided towards algorithmic fairness but real-world adoption of bias reduction techniques is still scarce. Existing methods are either metric- or model-specific, require acces

algorithmic fairness bias reduction techniques ml models fairness-aware hyperparameter optimization performance

发现论文，激发创造

预测机器学习软件配置的公平性

通过研究机器学习的超参数与公正之间的关系，本文提供了一种有效的方法来理解超参数和公正之间的关系，以及在训练算法中进行细致调整的框架。

Apr, 2024

通过 NAS 实现更公平和更准确的表格模型

通过算法使表格数据的模型更公平一直以来都得到了广泛研究，但是技术一直偏向于修复不理想结果的神经模型，改变数据导入方式、模型权重或输出处理方式。本研究采用不同的策略，考虑更新模型的架构和训练超参数，从而在去偏执过程的开始找到具有更好结果的全新模型。我们首次将多目标神经架构搜索（NAS）和超参数优化（HPO) 应用于表格数据的领域，对 MLP、ResNet 和 FT-Transformer 进行了广泛的架构和超参数空间探索，展示了模型预测的准确性和公平性指标在超参数组合上的依赖关系。我们发现，仅为了准确性而经过 NAS 优化的模型往往无法固有地解决公平性问题。我们提出了一种新颖的方法，通过同时优化架构和训练超参数，以准确性和公平性的多目标约束来解决问题。我们设计了能在公平性、准确性或两者方面优于目前最先进的偏执缓解方法的模型，并在单目标（准确性）优化运行过程中达到了帕累托最优。该研究强调了在深度学习模型中自动化公平性和准确性优化的潜力。

Oct, 2023

超人公平性

将公平性问题重新解释为一种基于超级公平性目标的模仿学习任务，以同时提高决策的准确性和公平性。

Jan, 2023

公平分类的超参数调整，不需要敏感属性访问

该论文提出 Antigone 框架，通过使用基于偏见分类器所产生的伪敏感属性标签来训练公平分类器，无需使用敏感属性标签，通过同时最大化准确性和公平性来实现平等机器学习。

Feb, 2023

一个众包平台上的机器学习模型是否会表现出偏见？模型公正性的实证研究

本文展示了在真实世界中基于 40 个高评分 Kaggle 模型的公平性评估及其 7 种缓解技术的实证研究。结果发现，部分优化技术会导致模型失公，尽管机器学习库中有公平控制机制，但这些机制未被记录。最佳的降低失公的方法往往存在权衡和代价.

May, 2020

FairTune: 优化参数高效微调用于医疗图像分析中的公平性

在医学诊断等伦理敏感应用领域，以鲁棒的群体公平性训练模型至关重要。尽管有越来越多的研究旨在减少人工智能中的人口偏差，但这个问题仍然具有挑战性。公平性的泛化差距是这个挑战的原因之一：高容量的深度学习模型几乎可以完美地拟合所有训练数据，从而在训练过程中也表现出完美的公平性。在这种情况下，偏差仅在测试时出现，因为泛化表现在不同的子群体之间有差异。这激发了我们从双层优化的角度来看待公平学习：根据验证公平性来优化学习策略。具体而言，我们考虑采用适应预训练模型到下游医学图像任务的参数高效微调（PEFT）技术的高效工作流。在更新更多参数以更好地适应感兴趣的任务与更新更少参数以减少泛化差距之间存在权衡。为了处理这个权衡，我们提出了一个框架 FairTune，以优化与公平性相关的 PEFT 参数的选择。我们经验证明，FairTune 在一系列医学图像数据集上能够提高公平性。

Oct, 2023

关于架构和超参数对于面部识别公平性的重要性

通过对神经网络架构和超参数的搜索来减少面部识别系统中的性别和种族等社会民主维度偏差，最终得到了一系列同时具有准确性和公正性的 Pareto 最优模型，并提供代码和数据让研究人员和实践者使用。

Oct, 2022

公平导向的超参数调优探索系统

本文介绍了 FairPilot，一个交互式系统，旨在通过探究多种模型，不同的超参数和广泛的公平性定义来促进 ML 模型的负责任开发。我们强调了选择 “最佳” ML 模型的挑战，并演示了 FairPilot 如何允许用户选择一组评估标准，然后将模型和超参数的 Pareto 边界显示为交互式地图。FairPilot 是第一个结合这些特征的系统，为用户提供了一个负责任选择模型的独特机会。

Apr, 2023

通过表现性分布鲁棒优化实现少数群体的长期公平性

研究人员扩展了实现预测并加入分布式鲁棒性目标，以解决正式的公平标准存在的四个严重缺陷。

Jul, 2022

面向公平性的对抗扰动：用于缓解部署的深度模型的偏差

文章提出了一种灵活的方法来提高人工智能系统的公平性，即针对不同族群的公正性问题，利用对抗性扰动来盲化输入数据中与公平性相关的特征，该方法有效且具有出色的性能。

Mar, 2022