Apr, 2019

FairVis: 用于发现机器学习中交叉偏见的视觉分析

PDF
TL;DR通过交互式可视化，FairVis 帮助数据科学家和普通公众发现机器学习中的偏差，从而了解和创建更具公平性的算法系统。
machine learningfairnessvisual analyticssubgroup discoverybias detection
发现论文，激发创造
  • ViG-Bias: 视觉基础偏见发现与缓解

    通过整合视觉解释力量，本研究提出了一个名为 Visually Grounded Bias Discovery and Mitigation (ViG-Bias) 的简单而高效的技术，并通过全面评估证明其对现有的 DOMINO、FACTS 和 Bias-to-Text 等技术的性能提升，在包括 CelebA、Waterbirds 和 NICO++ 在内的多个具有挑战性的数据集上都取得了成功。

    Jul, 2024

  • FairCompass：机器学习中的公平操作

    提出了一种名为 'FairCompass' 的人在循环中的公平审计方法，通过混合可视化分析系统将子组发现技术和基于决策树的模式集成到终端用户中，以促进可视分析的知识生成模型的使用，在实际情境中评估了 FairCompass 的公平审计效果，结果显示该系统在实际应用上具有潜力，望能填补公平性研究中的现行空白并促进在机器学习系统中的公平性操作实施。

    Dec, 2023

  • 视觉特征提取器系统评估的公平性指标

    该研究提出了三个公平指标，以量化视觉系统的伤害和偏见，并定义了适用于各种计算机视觉模型的精确实验方案，以促进计算机视觉研究中的公平测评。

    Feb, 2022

  • 公平先验：改进深度神经网络公平性偏向子群发现

    深度学习的公平性测试和消除方面的研究广泛应用于软件系统，然而，对交叉偏见的探测和处理相对较少，本文介绍了一种名为 Fairpriori 的新型偏见子群发现方法，该方法在有效率地计算交叉偏见的公平性度量的基础上，支持多种用例，易于使用和解释，并具有较高的计算效率。

    Jun, 2024

  • 更公平、更准确，但为谁而做？

    该论文介绍了一种比较不同风险评估模型公平性的框架，特别关注与种族和性别的不平等问题，以预测再犯率和贷款为例进行实验。

    Jun, 2017

  • 大规模标签空间中问题偏见的可视化识别

    为了解决大标签空间下现代模型和数据集的公平性，我们提出了一种可视化方法来解决该领域缺乏视觉分析工具的问题，这种方法可以帮助领域专家提取和推理模型和数据集中的偏差以系统地进行比较和公平性评估。

    Jan, 2022

  • FairLay-ML: 数据驱动型社会关键算法中不公平现象的直观解决方案

    本文介绍了 FairLay-ML，一种结合了已有研究工具的图形用户界面，能够提供机器学习模型中不公平逻辑的直观解释，具有易于安装、提供实时黑盒解释和可执行的解决方案等特点。

    Jul, 2023

  • 线性动力系统观测预测中的公平性

    本研究提出了两种子群公平和瞬时公平的概念，解决了时间序列预测中的偏差问题，并使用凸化层次结构全局收敛优化方法来证明我们的方法的有效性。

    Sep, 2022

  • 机器学习中的公平性：一项调查

    这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

    Oct, 2020

  • 机器学习中交叉公平性综述：概念、缓解和挑战

    在一个综述中，作者回顾了交叉公平的最新进展并提供了分类法和矫正算法以缓解交叉偏差，最后指出研究者未来的研究方向和挑战。

    May, 2023