AAAIDec, 2020

将医疗对话分类为 SOAP 部分的公平性

PDF
TL;DR研究机器学习算法在医疗保健中的应用中的算法公平性问题，重点是分类医生与患者对话为医学 SOAP 笔记。使用多个指标对分类器性能进行测量，并发现少部分劣势群体之间存在微小的差异。进一步对这些对话中的语言进行分析，分层次分组，发现这些差异与医学约见类型（如精神科医生与内科医生）有关。我们的发现强调了了解数据本身中可能存在的差异以及如何影响模型平等分配利益的重要性。
machine learningalgorithmic fairnesshealthcaremedical soap noteclassifier performance
发现论文，激发创造
  • 临床风险预测公平机器学习的实证表征

    该研究探讨了使用机器学习指导临床决策可能加剧现有的健康差距问题的潜力，并分析了算法公平的适用性、技术限制以及与机器学习在医疗保健中使用相关的社会技术背景。研究结果表明，在对各组之间的预测分布差异进行惩罚的情况下，几乎所有团体内的多项绩效指标都会降低，并且算法公平性方法在消除健康差距方面仍存在许多有待解决的问题。

    Jul, 2020

  • 医疗保健人工智能中的算法公正性

    这篇综述论文概述了高科技医疗领域中人工智能系统的算法公正性问题，阐述了当前临床工作流程中算法偏见（如图像采集，基因变异，内观者标记变异性等）导致的不公平医疗差距并探讨了联邦学习、分离和模型解释等新兴技术在 AI-SaMD 发展中的作用。

    Oct, 2021

  • 检测医疗 AI 模型中的算法偏见

    通过使用 CART 算法，本研究提出了一种创新的框架，用于检测医疗人工智能决策支持系统中的算法偏见。通过一系列合成数据实验和格拉迪纪念医院的电子病历实验，我们验证了该方法的准确性和实用性，进一步证明了它在临床环境中作为确保公平和公正的关键工具。

    Dec, 2023

  • 利用模块化摘要技术从医生 - 患者对话生成 SOAP 笔记

    通过使用深度总结模型生成 SOAP 注释，Cluster2Sent 算法可以提取与每个总结部分相关的重要话语，并将相关话语聚集在一起，然后生成每个类别的一句总结。

    May, 2020

  • 机器学习中的公平性与医疗保健中的公平性相遇

    本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。

    May, 2023

  • 探究医患对话摘要的稳健性：跨领域 SOAP 笔记分析

    研究考察了最先进的医患对话生成摘要模型在域外数据上的表现，将医患对话摘要模型分为两种配置，一种是通用模型，另一种是以 SOAP 部分生成摘要的模型。研究分析了基于微调语言模型和 GPT 的方法在两种配置上的局限性和优势，以及通过语言查询和词计数分析比较不同数据集中 SOAP 注释。结果显示，不同数据集中的参考注释之间存在很强的相关性，表明格式不匹配并非域外数据性能下降的主要原因。最后，还进行了 SOAP 注释的详细分析，以揭示模型引入的信息缺失和产生幻觉的性质。

    Jun, 2024

  • 探究医学图像分析中的标定偏差问题

    本研究探讨了医疗影像分析中的人工智能系统的公平性问题，特别是围绕判定偏见和校准偏见的研究，并展示了通常使用的多种校准指标对样本量存在系统性偏差的情况，如果未考虑到这一点，可能会导致错误的公平性分析。

    May, 2023

  • 机器学习在医疗中的公平性教程

    在临床决策和预防现有医疗不公平中确保机器学习算法在所有患者群体中安全有效，不会对特定患者造成不利影响，对于医学信息学社区非常重要。本教程的目标是向医学信息学社区介绍机器学习中的公平常见概念，重点关注临床应用和实际实施。

    Jun, 2024

  • 自然语言处理中偏差和公平性调查

    本次调查分析了 NLP 模型的社会影响，探讨了 NLP 算法中存在性别、种族和文化偏见的根源，定义了公平性，并说明了 NLP 各个子领域如何减少系统存在的偏见，最终讨论了未来研究如何消除 NLP 算法中的有害偏见。

    Mar, 2022

  • 医疗中的公平机器学习综述

    通过揭示机器学习应用在医疗保健中的公平性问题及其可能的偏差、整理相关缓解方法，本文旨在为建立医疗保健机器学习及相关技术的公正性提供参考。

    Jun, 2022