机器学习中的 slice discovery algorithm 对于模型表现下降等问题提供了一种新方法，相关的使用者研究表明这种方法比 naïve baseline 更好，但是在假设形成的环节上仍然存在挑战，因此在设计和评估新的工具时需要关注使用者。

Jun, 2023

本文介绍了一种 “发现，解释，改进” 的框架，以系统研究片段检测模型在自然语言处理中的量化评估，准确发现高错误率的数据点，提高模型性能。

Nov, 2022

通过数值实验在合成和真实场景中展示了我们的方法能够在没有真实标签的情况下成功预测公平性问题，这在该领域中是一种新颖且有价值的工具。

Sep, 2023

机器学习和深度学习在医学任务和应用中得到广泛应用，然而，研究人员发现模型在不同敏感属性的子组中表现出偏见。本文通过检测一系列深度学习分割模型在超声波分割任务中的表现来评估模型的不公平性，结果显示即使最先进的深度学习算法也存在不公平行为。这些发现强调了在模型部署到实际场景之前对其进行仔细评估的必要性，以确保道德考量并减轻对患者结果的不利影响的风险。

Dec, 2023

通过研究胸部 X 射线诊断中的性别偏见，提出了新的采样方法研究导致性别差异的因素，指出数据集特定因素是影响男女性能差距的主要驱动力。

Aug, 2023

该研究讨论了使用神经网络建立心脏数据的图像分割模型时，数据库不平衡导致的种族偏见，提出了三种解决方案，并发现 protected group models 的使用最有效。

Jun, 2021

通过使用深度学习模型，本研究在疾病诊断方面取得了重要进展，在使用胸部 X 射线上具有很大潜力。然而，这些模型中存在的固有偏见可能导致预测准确性在不同保护组之间存在差异。为了实现准确的诊断结果并确保在交叉组之间公平性，我们提出了一个框架，用于在高维胸部 X 射线多标签分类任务中实现公平性。该框架不仅考虑传统的受保护属性，还考虑了社会决定因素中的复杂交互作用，使得公平性的评估更加细致。我们提出了一种简单而强大的方法，通过使用跨组平衡的数据集来重新训练预训练模型的最后分类层。此外，我们还考虑了公平性约束，并在多标签设置中集成了类别平衡微调。我们在 MIMIC-CXR 数据集上评估了我们的方法，结果表明与基准方法相比，我们的框架在准确性和公平性之间实现了最佳权衡。

Mar, 2024

研究使用人工智能在医学影像中进行自动化常规任务的过程中，模型选择对主体性别和种族的数据不平衡导致的算法偏见有显著影响，在心脏磁共振图像分割中，我们评估了三种基于卷积神经网络的模型和一种视觉变换器模型，发现其中三种模型存在显著性别偏见，而所有模型都存在种族偏见，然而偏见的严重程度和性质因模型选择而异，凸显了在医学影像任务的公平 AI 分割模型训练中模型选择的重要性。

Aug, 2023

该研究通过对人群亚组之间的疾病分类器性能分析，发现低诊断率造成的表现差异引起了关注，进一步强调了在训练数据中嵌入的人类偏见可能会放大现有的健康差异，并探讨了评估模型公正性的一些困难。

Jan, 2022

通过对 9 种方法公平指标改进的性能进行基准测试，我们发现，相对于实现群体公平的方法，实现最差群体表现的方法并不能胜任在临床设置中对分类器公平进行改进，这一结果证实了对于在数据生成功能机制中存在歧视的机理的调查在临床环境中仍然具有实用性。

Mar, 2022