训练公平神经网络的技术挑战

Feb, 2021

Technical Challenges for Training Fair Neural Networks

Valeriia Cherepanova, Vedant Nanda, Micah Goldblum, John P. Dickerson, Tom Goldstein

TL;DR机器学习算法已被广泛应用在各种领域，然而由此带来的公平性问题在高风险案例（如人脸识别和医学影像分析）中引起了极大关注。本文针对深度神经网络中公平性的限制条件及其行为矫正方法的有效性进行了研究，实验结果表明，在特定公平度量下，大型模型会对公平的过度拟合而产生一系列意外和不良后果。

Abstract

As machine learning algorithms have been widely deployed across applications, many concerns have been raised over the fairness of their predictions, especially in high stakes settings (such as →

machine learning fairness deep neural networks facial recognition medical diagnosis

发现论文，激发创造

神经网络的末层公平微调简单有效

在现代数据科学中，机器学习已被广泛应用，算法公正性已成为一个重大关注点。研究者提出了各种公正性标准，可以通过训练时的公平性约束来实现公平性，新方法则利用预训练和微调来训练公平的神经网络。在两个流行的图像数据集上进行的实验表明，公平性微调足以提高深度神经网络的公平性。

Apr, 2023

视觉和语言研究中实现更公平的神经模型的去偏置方法：一份调查报告

在电脑视觉和自然语言处理领域中，神经网络虽然能够取得最新成果，但是其存在数据内的建模偏见，导致人工智能领域出现了公平性的研究方向，其目的为了纠正算法偏见，提出了几种基于公平性的神经网络去偏置的方法。

Nov, 2022

神经网络完美并行公平性认证

该文提出了一种用于分类表格数据的前馈神经网络的因果公平性认证方法，能够准确判定机器学习模型是否有偏差，并在可扩展的精度方面提供了不同的选择。

Dec, 2019

深度伪造检测中公平性的提高

本文提出了一种新的算法来训练公平的 deepfake detection model，以解决使用偏见的数据训练深度学习模型可能会导致不公平表现的问题。实验结果表明，该方法可以提高 deepfake detection 的公平性和鲁棒性。

Jun, 2023

FairALM: 用增广 Lagrangian 方法训练公平模型，减少悔恨

本文研究了使用公平性度量来指导模型的设计和训练的机制，提出了一种简单但可靠的方法，即在训练模型时同时实现公平，并通过详细的技术分析和实验验证了在计算机视觉训练任务中可靠地实现各种公平性度量。

Apr, 2020

以鲁棒性促进公平：探究深度学习中的鲁棒性差异性

该研究采用两种方法来衡量深度神经网络中的鲁棒性偏差。实证研究结果表明，在大多数情况下，存在一些少数群体处于劣势，并提出了数据分布和学习决策边界的高度复杂性是导致此类偏向的原因。

Jun, 2020

医疗中的公平机器学习综述

通过揭示机器学习应用在医疗保健中的公平性问题及其可能的偏差、整理相关缓解方法，本文旨在为建立医疗保健机器学习及相关技术的公正性提供参考。

Jun, 2022

基于 Transformer 神经网络的公平分类：教育领域案例研究

本论文旨在研究机器学习模型在教育领域的应用中可能存在的偏见以及公平性问题，并通过对转换神经网络模型在两个表格数据集中的应用实践，展示了公平性和分类性能之间的权衡关系。

Jun, 2022

关于架构和超参数对于面部识别公平性的重要性

通过对神经网络架构和超参数的搜索来减少面部识别系统中的性别和种族等社会民主维度偏差，最终得到了一系列同时具有准确性和公正性的 Pareto 最优模型，并提供代码和数据让研究人员和实践者使用。

Oct, 2022

机器学习中的偏差与公正调查

调查表明，人工智能领域中存在各种偏见和不公，因此机器学习研究人员定义了公平性的分类，以解决现有 AI 系统中的偏见问题。此外，调查还考察了在 AI 的不同领域和子领域中，现有技术的问题及其应对措施，以期鼓励研究人员在其各自领域中研究此问题。

Aug, 2019