无需人口统计实现皮肤疾病诊断的公平性

Jan, 2024

无需人口统计实现皮肤疾病诊断的公平性

Achieve Fairness without Demographics for Dermatological Disease Diagnosis

Ching-Hao Chiu, Yu-Jen Chen, Yawen Wu, Yiyu Shi, Tsung-Yi Ho

TL;DR在医学图像诊断中，公平性变得越来越重要。本文提出了一种方法，在测试阶段实现对敏感属性的公平预测，而无需在训练过程中使用此类信息，并通过增强模型特征和规范特征的纠缠关系来提高公平性和准确性。实验结果表明，在两个皮肤病数据集中，该方法能够提高分类的公平性。

Abstract

In medical image diagnosis, fairness has become increasingly crucial. Without bias mitigation, deploying unfair AI would harm the interests of the underprivileged population and potentially tear society apart. Re

fairness medical image diagnosis deep learning models sensitive attributes dermatological disease images

发现论文，激发创造

公正的修剪：通过修剪实现皮肤病诊断的公平性

提出一种名为 FairPrune 的深度学习方法，在不降低模型精度的情况下，通过剪枝来降低敏感群体和非敏感群体之间的分类差距，从而实现公平的医学图像分类。

Mar, 2022

医学图像分割中的无监督偏差发现

通过数值实验在合成和真实场景中展示了我们的方法能够在没有真实标签的情况下成功预测公平性问题，这在该领域中是一种新颖且有价值的工具。

Sep, 2023

在不考虑敏感属性的情况下学习公平模型：一种生成方法

本文提出了一种基于概率生成模型的方法，通过在采用了多种形式的相关特征的训练数据中有效地估计敏感属性信息，从而提高公平模型的学习率。实际测试表明了该方法的准确性和公平性。

Mar, 2022

朝向无需假设的偏见缓解

通过建模特征交互来检测相关属性以减轻偏见影响的无假设框架，大大减轻了机器学习模型中针对特定人群的歧视和不公平预测行为。

Jul, 2023

公平分类的超参数调整，不需要敏感属性访问

该论文提出 Antigone 框架，通过使用基于偏见分类器所产生的伪敏感属性标签来训练公平分类器，无需使用敏感属性标签，通过同时最大化准确性和公平性来实现平等机器学习。

Feb, 2023

FairDisCo: 利用去相关对比学习实现更公平的皮肤科人工智能

本文介绍了一种基于深度学习的公平皮肤病诊断框架 FairDisCo，通过对比学习和删除敏感属性等方法，有效解决了现有模型对较暗皮肤图像的低准确度问题。在两个新的皮肤数据集 Fitzpatrick17k 和 Diverse Dermatology Images 上的评估表明，FairDisCo 在公平性和性能方面的表现均优于其他三种公平性方法。

Aug, 2022

公平医学影像 AI 在实际应用中的局限性

人工智能在医学影像学中逼近人类水平的表现，但其是否在不同人群中造成不公平的预测是一个关键问题。本研究对医学影像学中人工智能使用人口统计学编码的程度进行了深入调查，发现在新的测试环境中，较少编码人口统计属性的模型往往表现出更好的公平性。我们的研究为医学影像学模型在超出初始训练环境中保持性能和公平性提供了最佳实践。

Dec, 2023

人口有限制度下的公平性

本研究通过引入不确定性感知，对可能存在不确定性的人口敏感属性样本实施公平性要求，并提出一种建立更好的公平性 - 准确性权衡的属性分类器框架，实验证明该框架相对于传统方法在两个数据集上都取得显著的公平性 - 准确性权衡表现优势，并且超过了对真实敏感属性进行约束训练的模型。

Jul, 2023

迈向更公平的人脸识别数据集

利用生成的训练数据集中的人口属性平衡机制，提出了一种全面的评估方法，旨在促进更公平、透明的人脸识别和验证，并发现在减少人口属性不公平的同时，性能差距仍然存在。

Jun, 2024

有限人口分类标记数据下的公平机器学习

本研究提出了一种新型的公平训练算法，该算法在尽可能保护个人隐私的情况下，避免了在机器学习模型中存在不良社会偏见的问题。实验结果显示，该算法可以有效降低社会偏见问题。

Jun, 2021