公平导向的超参数调优探索系统

Apr, 2023

FairPilot: An Explorative System for Hyperparameter Tuning through the Lens of Fairness

Francesco Di Carlo, Nazanin Nezami, Hadis Anahideh, Abolfazl Asudeh

TL;DR本文介绍了 FairPilot，一个交互式系统，旨在通过探究多种模型，不同的超参数和广泛的公平性定义来促进 ML 模型的负责任开发。我们强调了选择 “最佳” ML 模型的挑战，并演示了 FairPilot 如何允许用户选择一组评估标准，然后将模型和超参数的 Pareto 边界显示为交互式地图。FairPilot 是第一个结合这些特征的系统，为用户提供了一个负责任选择模型的独特机会。

Abstract

Despite the potential benefits of machine learning (ML) in high-risk decision-making domains, the deployment of ML is not accessible to practitioners, and there is a risk of discrimination. To establish trust and acceptance of ML in such domains, democratizing ML tools and

machine learning fairpilot hyperparameters fairness pareto frontier

发现论文，激发创造

机器学习模型中效用、隐私和公平之间的自动权衡发现

机器学习模型在决策和政策操作中被部署为核心组件，对个人生活产生直接影响。为了在道德上行事并遵守政府监管，这些模型需要做出公平的决策并保护用户的隐私。然而，这些要求可能会导致模型性能下降，与其潜在的偏向和隐私泄露对应模型相比。因此，公平性、隐私性和机器学习模型性能之间的权衡成为一个问题，从而需要一种方法来量化这种权衡以便进行部署决策。在这项工作中，我们将这种权衡解释为一个多目标优化问题，并提出了 PFairDP，这是一个使用贝叶斯优化的流水线，用于发现在公平性、隐私性和机器学习模型效用之间的帕累托最优点。我们展示了如何使用 PFairDP 复制通过手动约束设置过程实现的已知结果。我们进一步通过对多个模型和数据集进行实验，证明了 PFairDP 的有效性。

Nov, 2023

FairCompass：机器学习中的公平操作

提出了一种名为 'FairCompass' 的人在循环中的公平审计方法，通过混合可视化分析系统将子组发现技术和基于决策树的模式集成到终端用户中，以促进可视分析的知识生成模型的使用，在实际情境中评估了 FairCompass 的公平审计效果，结果显示该系统在实际应用上具有潜力，望能填补公平性研究中的现行空白并促进在机器学习系统中的公平性操作实施。

Dec, 2023

通过超参数优化促进公平性

本文探讨了为了预测性能而优化机器学习模型时出现的不公平现象，以及如何通过公平感知的超参数优化来减轻这种不公平现象。我们提出并评估了三种受欢迎的公平感知的超参数优化算法的变种：Fair Random Search、Fair TPE 和 Fairband，并在实际案例研究和公平性文献中的三个数据集上验证了我们的方法，结果表明，无需额外的训练成本，可以找到 111% 平均公平性增加和仅 6% 性能下降的模型。

Mar, 2021

学习公正性，走向公平、隐私和效用的帕累托前沿

采用中立性原则，提出一个用于机器学习的管道的设计，在优化准确度的同时，不会偏向公平性或隐私，使用方法 FairDP-SGD 和 FairPATE 得到真正的 Pareto 前沿线。

Feb, 2023

面向公平性的对抗扰动：用于缓解部署的深度模型的偏差

文章提出了一种灵活的方法来提高人工智能系统的公平性，即针对不同族群的公正性问题，利用对抗性扰动来盲化输入数据中与公平性相关的特征，该方法有效且具有出色的性能。

Mar, 2022

预测机器学习软件配置的公平性

通过研究机器学习的超参数与公正之间的关系，本文提供了一种有效的方法来理解超参数和公正之间的关系，以及在训练算法中进行细致调整的框架。

Apr, 2024

FairLay-ML: 数据驱动型社会关键算法中不公平现象的直观解决方案

本文介绍了 FairLay-ML，一种结合了已有研究工具的图形用户界面，能够提供机器学习模型中不公平逻辑的直观解释，具有易于安装、提供实时黑盒解释和可执行的解决方案等特点。