Jun, 2021

深度学习基于分割的心脏 MR 图像分析中由于数据不平衡导致的偏差调查

PDF
TL;DR该研究讨论了使用神经网络建立心脏数据的图像分割模型时，数据库不平衡导致的种族偏见，提出了三种解决方案，并发现 protected group models 的使用最有效。
fairnessartificial intelligencedeep learningracial biasprotected group models
发现论文，激发创造
  • 深度学习模型选择对心脏磁共振分割中性别和种族偏见影响的调查

    研究使用人工智能在医学影像中进行自动化常规任务的过程中，模型选择对主体性别和种族的数据不平衡导致的算法偏见有显著影响，在心脏磁共振图像分割中，我们评估了三种基于卷积神经网络的模型和一种视觉变换器模型，发现其中三种模型存在显著性别偏见，而所有模型都存在种族偏见，然而偏见的严重程度和性质因模型选择而异，凸显了在医学影像任务的公平 AI 分割模型训练中模型选择的重要性。

    Aug, 2023

  • 揭示基于深度学习的脑部 MRI 重建中的公平偏差

    该研究使用深度学习重建技术分析了基于神经网络的磁共振成像的公平性问题，发现性别和年龄子群之间存在显著的性能偏差，并提供了改进医学人工智能应用公平性的见解。

    Sep, 2023

  • 基于卷积神经网络心脏磁共振分割中种族和性别偏差的系统研究

    本文介绍了在医学影像领域应用卷积神经网络进行心脏结构分割的过程中，训练数据集失衡对 CNNs 偏差的影响进行了系统研究，实验结果表明数据失衡会导致 CNNs 对某些人群产生偏见，凸显了在医学健康数据集中需考虑对不同人口群体进行足够的表征的必要性。

    Sep, 2022

  • 医学图像分割中的无监督偏差发现

    通过数值实验在合成和真实场景中展示了我们的方法能够在没有真实标签的情况下成功预测公平性问题，这在该领域中是一种新颖且有价值的工具。

    Sep, 2023

  • 探究医学图像分析中的标定偏差问题

    本研究探讨了医疗影像分析中的人工智能系统的公平性问题，特别是围绕判定偏见和校准偏见的研究，并展示了通常使用的多种校准指标对样本量存在系统性偏差的情况，如果未考虑到这一点，可能会导致错误的公平性分析。

    May, 2023

  • 超声分割任务中模型公平性检查

    机器学习和深度学习在医学任务和应用中得到广泛应用，然而，研究人员发现模型在不同敏感属性的子组中表现出偏见。本文通过检测一系列深度学习分割模型在超声波分割任务中的表现来评估模型的不公平性，结果显示即使最先进的深度学习算法也存在不公平行为。这些发现强调了在模型部署到实际场景之前对其进行仔细评估的必要性，以确保道德考量并减轻对患者结果的不利影响的风险。

    Dec, 2023

  • 面向医学影像人工智能的客观系统偏见评估

    通过一种新的分析框架，我们展示了如何系统性、客观地研究医学图像中的偏见对人工智能模型的影响，并评估偏见缓解策略在性能差异方面的有效性，从而支持开发健壮、负责任的临床人工智能。

    Nov, 2023

  • 解决面部情感识别中的种族偏见

    在深度学习模型使用高维输入和主观标签进行训练时，公正性依然是一个复杂且缺乏研究的领域。面部情绪识别是一个数据集往往存在种族不平衡问题的领域，可能导致模型在不同种族群体之间产生不同的结果。本研究聚焦于通过对具有多样种族分布的训练集进行子采样，以及评估这些模拟中的测试性能来分析种族偏见。我们的发现表明，较小的数据集中的伪造面孔可以在接近种族平衡的模拟中提高公正性和性能指标。值得注意的是，F1 分数平均增加了 27.2 个百分点，人口统计学平等指标平均增加了 15.7 个百分点。然而，在具有更多面部变化的较大数据集中，公正性指标通常保持不变，这表明仅仅种族平衡是无法在不同种族群体之间实现测试性能的平等的。

    Aug, 2023

  • 医学影像公平性基准测试

    该研究介绍了 MEDFAIR 框架，可以用于医学成像机器学习模型的公平性评估和算法的基准测试，通过实验发现模型选择标准可以对公平性结果产生重要影响，并在不同的应用场景和伦理原则下提供了建议。

    Oct, 2022

  • 公平医学影像 AI 在实际应用中的局限性

    人工智能在医学影像学中逼近人类水平的表现，但其是否在不同人群中造成不公平的预测是一个关键问题。本研究对医学影像学中人工智能使用人口统计学编码的程度进行了深入调查，发现在新的测试环境中，较少编码人口统计属性的模型往往表现出更好的公平性。我们的研究为医学影像学模型在超出初始训练环境中保持性能和公平性提供了最佳实践。

    Dec, 2023