在电脑视觉和自然语言处理领域中，神经网络虽然能够取得最新成果，但是其存在数据内的建模偏见，导致人工智能领域出现了公平性的研究方向，其目的为了纠正算法偏见，提出了几种基于公平性的神经网络去偏置的方法。

Nov, 2022

在医学图像诊断中，公平性变得越来越重要。本文提出了一种方法，在测试阶段实现对敏感属性的公平预测，而无需在训练过程中使用此类信息，并通过增强模型特征和规范特征的纠缠关系来提高公平性和准确性。实验结果表明，在两个皮肤病数据集中，该方法能够提高分类的公平性。

Jan, 2024

本论文解决了皮肤病分类模型数据偏差问题，通过综合分析 7 种视觉损伤，防止模型学习虚假相关性并提出了数据集来测试模型的偏差，但发现尽管结果有希望，目前的去偏方法还不足以解决皮肤病模型的偏差问题。

Apr, 2020

为了保证医疗人工智能系统的公平性和对负责任，我们提出了一种对抗性多任务训练策略来同时减轻和检测基于深度学习的医学图像分析系统中的偏见。实验表明我们提出的方法具有较高的有效性。

Mar, 2021

本研究通过重构和最小化预期变量之间的统计相依来解决图像训练数据偏见的问题，使用包含 U-net 和预训练分类器的架构，将所提出的模型与最新的去偏见方法进行了对比，并展示了模型的公正性 - 准确性组合。

Sep, 2022

该研究讨论了使用神经网络建立心脏数据的图像分割模型时，数据库不平衡导致的种族偏见，提出了三种解决方案，并发现 protected group models 的使用最有效。

Jun, 2021

本文提出了一种新的算法来训练公平的 deepfake detection model，以解决使用偏见的数据训练深度学习模型可能会导致不公平表现的问题。实验结果表明，该方法可以提高 deepfake detection 的公平性和鲁棒性。

Jun, 2023

本文介绍了一种基于深度学习的公平皮肤病诊断框架 FairDisCo，通过对比学习和删除敏感属性等方法，有效解决了现有模型对较暗皮肤图像的低准确度问题。在两个新的皮肤数据集 Fitzpatrick17k 和 Diverse Dermatology Images 上的评估表明，FairDisCo 在公平性和性能方面的表现均优于其他三种公平性方法。

Aug, 2022

通过提出一种歧视感知学习方法，该方法可以改善偏差人脸识别算法的准确性和公平性。该方法表明，基于最常用的人脸数据库的学习过程导致了一个强大的算法性别和种族歧视的深度人脸模型，而提出的 Sensitive Loss 方法可以用于改进网络的性能，从而防止自动系统的歧视影响。

Apr, 2020

本研究提出了一种高效有效的算法，可以自动标记皮肤损伤图像的肤色，并将其用于注释基准 ISIC 数据集以减少皮肤色调偏差。实验结果证明，皮肤色调检测算法优于现有解决方案，取消偏见可以提高普适性，并减少轻重肤色间的黑色素瘤检测性能差异。

Feb, 2022