May, 2023

防患于未然：胸部异常检测案例研究

PDF
TL;DR本文探讨了预防疾病和预防医学中使用的 AI 模型出现问题的重要性，以及分析了一个 Kaggle 竞赛用例 - X 射线肺图像异常检测中的数据不平衡性问题，并说明了如何通过在整个生命周期中监测数据和模型平衡性来消除偏见。
发现论文，激发创造
  • 在多个数据集偏差源存在时，调查 AI 算法的低诊断率

    该研究通过对人群亚组之间的疾病分类器性能分析，发现低诊断率造成的表现差异引起了关注，进一步强调了在训练数据中嵌入的人类偏见可能会放大现有的健康差异，并探讨了评估模型公正性的一些困难。

    Jan, 2022

  • (术后并发症预测模型的) 不公平性

    这篇论文探讨了机器学习算法在高影响临床决策系统中应用的公平性、可解释性和透明度，提出了一种基于倾向评分和决策树的算法指南，帮助临床医生识别模型的可预测缺陷，同时指导算法开发人员改进数据源和结构以解决这些缺陷。

    Nov, 2020

  • 解决胸部 X 射线图像报告生成中的数据偏差问题

    该论文介绍了一种使用两个不同的 word LSTMs 的层次 LSTM 模型来分别产生异常和正常语句以增加生成段落的变异性，并通过比较生成语句的独特性来分析其区别。希望这些发现能够促进新度量方法的发展，以更好地验证自动生成医学报告的方法。

    Aug, 2019

  • 探究医学图像分析中的标定偏差问题

    本研究探讨了医疗影像分析中的人工智能系统的公平性问题，特别是围绕判定偏见和校准偏见的研究，并展示了通常使用的多种校准指标对样本量存在系统性偏差的情况，如果未考虑到这一点，可能会导致错误的公平性分析。

    May, 2023

  • 应用于胸部 X 光片的深度学习：利用和预防快速通道

    本研究研究了深度学习应用于胸部 X 光片的自动诊断疾病方面存在的问题，提出了针对偏斜类别的解决方案，并通过简单的迁移学习方法进行了验证。

    Sep, 2020

  • 面向医学影像人工智能的客观系统偏见评估

    通过一种新的分析框架，我们展示了如何系统性、客观地研究医学图像中的偏见对人工智能模型的影响，并评估偏见缓解策略在性能差异方面的有效性，从而支持开发健壮、负责任的临床人工智能。

    Nov, 2023

  • 胸部 X 光基础模型中的偏倚风险

    该研究分析了一个公开可访问的胸部 X 光基础模型，发现模型存在性别和种族等保护特征的嵌入，这可能导致临床决策的性能退化和不公平性，因此，建议对基础模型进行充分的偏见和子组织性能分析。

    Sep, 2022

  • 机器学习中的公平性与医疗保健中的公平性相遇

    本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。

    May, 2023

  • 当多得更少：引入额外数据集可能会通过引入虚假关联降低性能

    在大规模实证研究中，结合四个不同的开源胸部 X 光数据集和九个不同标签的组合的情况下，通过数据来自两家医院进行训练的模型在两个医院的最差组精度方面甚至比仅使用单家医院的数据进行训练的模型更差。这种出人意料的结果是由于医院特定的图像伪相关性造成的，同时说明了训练多个数据集的权衡，即额外数据的明显好处和引入伪相关性的隐蔽成本。这些风险凸显了在未来的研究和实践中对于仔细的数据选择和模型评估的需求。

    Aug, 2023

  • 基于计算机人工智能深度学习技术的疾病预测模型构建研究

    通过研究稳健学习算法并将其应用于传染病风险的预警，本项目提出了一种动态截断损失模型，将传统的互信息隐式权重特征与平均变异特征相结合，通过降低受噪声影响的训练结果引入训练损失的下界和基于采样率的方法，验证了该方法在不同噪声类型下的有效性，并实现了包含标签噪声数据的稳健学习。

    Jun, 2024