公平绣花：揭示模型拼接在神经网络去偏中的潜力

Nov, 2023

公平绣花：揭示模型拼接在神经网络去偏中的潜力

The Fairness Stitch: Unveiling the Potential of Model Stitching in Neural Network De-Biasing

Modar Sulaiman, Kallol Roy

TL;DR通过引入一种名为 “The Fairness Stitch (TFS)” 的新方法，该研究评估了在两个著名的数据集 CelebA 和 UTKFace 上采用此方法改进公平性的有效性，并发现在公平性和性能之间取得了平衡的进展，对于解决偏见相关挑战并促进机器学习模型的公平结果具有很大潜力，该论文对于解决深度学习模型中最后一层在去偏中的有效性这一常规智慧提出了挑战。

Abstract

The pursuit of fairness in machine learning models has emerged as a critical research challenge in different applications ranging from bank loan approval to face detection. Despite the widespread adoption of arti

fairness machine learning models biases discrimination deep learning models

发现论文，激发创造

训练公平神经网络的技术挑战

机器学习算法已被广泛应用在各种领域，然而由此带来的公平性问题在高风险案例（如人脸识别和医学影像分析）中引起了极大关注。本文针对深度神经网络中公平性的限制条件及其行为矫正方法的有效性进行了研究，实验结果表明，在特定公平度量下，大型模型会对公平的过度拟合而产生一系列意外和不良后果。

Feb, 2021

视觉和语言研究中实现更公平的神经模型的去偏置方法：一份调查报告

在电脑视觉和自然语言处理领域中，神经网络虽然能够取得最新成果，但是其存在数据内的建模偏见，导致人工智能领域出现了公平性的研究方向，其目的为了纠正算法偏见，提出了几种基于公平性的神经网络去偏置的方法。

Nov, 2022

透过公平的镜子：减少图像数据集中的偏差

本研究通过重构和最小化预期变量之间的统计相依来解决图像训练数据偏见的问题，使用包含 U-net 和预训练分类器的架构，将所提出的模型与最新的去偏见方法进行了对比，并展示了模型的公正性 - 准确性组合。

Sep, 2022

深度伪造检测中公平性的提高

本文提出了一种新的算法来训练公平的 deepfake detection model，以解决使用偏见的数据训练深度学习模型可能会导致不公平表现的问题。实验结果表明，该方法可以提高 deepfake detection 的公平性和鲁棒性。

Jun, 2023

基于偏倚和去偏倚的方法实现公平知识传递，用于公平皮肤分析

基于深度学习模型的皮肤疾病诊断中，为了解决公平性问题且不损害预测准确性，我们提出了一种基于两个偏倚的教师模型的方法，通过权重损失函数进行偏倚与去偏倚的训练，提高了模型的准确度和公平性。

May, 2024

关于提高深度学习模型公正性的大规模经验研究

本论文开展了第一次大规模实证研究，全面比较了现有最先进的公平性改进技术的性能，结果显示不同方法在不同数据集和敏感属性上表现存在较大差异，且不同的公平评估指标产生显著不同的评估结果，其中预处理方法和内处理方法优于后处理方法，预处理方法表现最佳，本研究为深度学习模型公平性提供了全面的建议。

Jan, 2024

迈向公平机器学习软件：通过反事实推理理解和解决模型偏见

本研究通过反事实思考，提出一种针对 ML 软件中偏见根源的创新对策，并将优化性能和公平性模型相结合，成功提高了 ML 软件的公平性并保持了高竞争力性能

Feb, 2023

深度学习基于分割的心脏 MR 图像分析中由于数据不平衡导致的偏差调查

该研究讨论了使用神经网络建立心脏数据的图像分割模型时，数据库不平衡导致的种族偏见，提出了三种解决方案，并发现 protected group models 的使用最有效。

Jun, 2021

神经网络的末层公平微调简单有效

在现代数据科学中，机器学习已被广泛应用，算法公正性已成为一个重大关注点。研究者提出了各种公正性标准，可以通过训练时的公平性约束来实现公平性，新方法则利用预训练和微调来训练公平的神经网络。在两个流行的图像数据集上进行的实验表明，公平性微调足以提高深度神经网络的公平性。

Apr, 2023

一个众包平台上的机器学习模型是否会表现出偏见？模型公正性的实证研究

本文展示了在真实世界中基于 40 个高评分 Kaggle 模型的公平性评估及其 7 种缓解技术的实证研究。结果发现，部分优化技术会导致模型失公，尽管机器学习库中有公平控制机制，但这些机制未被记录。最佳的降低失公的方法往往存在权衡和代价.

May, 2020