May, 2024

走向临床AI公平性：填补谜题中的空白

HTML
PDF
TL;DR医学领域中人工智能（AI）的道德整合需要解决公平性这个高度依赖上下文的概念。本文通过详细的证据缺口分析，系统地指出了医疗数据和AI公平解决方案中存在的一些缺陷。我们强调了在许多医学领域中AI公平研究的稀缺性。此外，我们分析还凸显了对群体公平的重要依赖，旨在从宏观医疗系统的角度确保人口统计群体之间的平等；相比之下，对于更精细化程度上的个人公平性常常被忽视了。为了填补这些间隙，我们的综述为医疗和AI研究社区提出了可操作的策略。除了在医疗中应用现有的AI公平方法，我们进一步强调了将医疗专业人员纳入其中，以完善AI公平概念和方法，以确保AI在医疗领域中具有上下文相关性和道德健全性。
发现论文，激发创造
  • 临床风险预测公平机器学习的实证表征

    该研究探讨了使用机器学习指导临床决策可能加剧现有的健康差距问题的潜力，并分析了算法公平的适用性、技术限制以及与机器学习在医疗保健中使用相关的社会技术背景。研究结果表明，在对各组之间的预测分布差异进行惩罚的情况下，几乎所有团体内的多项绩效指标都会降低，并且算法公平性方法在消除健康差距方面仍存在许多有待解决的问题。

    Jul, 2020

  • 通过人工智能实现公平：医疗信息中的偏见减少

    本文提出了一个以医学、社会学和反种族主义为灵感的公平人工智能框架，定义了一个新词bisinformation，鼓励研究人员研究它并使用AI研究、发现和减轻对社会中的少数群体造成的有偏见、有害的或虚假健康信息，进而改善患者的结果和福祉。

    Sep, 2021

  • 医疗保健人工智能中的算法公正性

    这篇综述论文概述了高科技医疗领域中人工智能系统的算法公正性问题，阐述了当前临床工作流程中算法偏见（如图像采集，基因变异，内观者标记变异性等）导致的不公平医疗差距并探讨了联邦学习、分离和模型解释等新兴技术在AI-SaMD发展中的作用。

    Oct, 2021

  • 医疗中的公平机器学习综述

    通过揭示机器学习应用在医疗保健中的公平性问题及其可能的偏差、整理相关缓解方法，本文旨在为建立医疗保健机器学习及相关技术的公正性提供参考。

    Jun, 2022

  • 通过道德和哲学原则确保可信赖的医疗人工智能

    本文讨论了人工智能在医疗领域中的应用，特别是在医学图像分析中的最新进展、现有标准以及应用人工智能所需考虑的伦理问题和最佳实践。我们探讨了人工智能的技术挑战和伦理挑战，以及在医院和公共组织中部署人工智能的影响和关键技术措施。最后，我们提出了未来解决人工智能在医疗应用中的伦理挑战的建议和方向。

    Apr, 2023

  • 朝向临床AI公正：一个翻译角度

    本文讨论了人工智能在医疗保健等高风险领域中的公平性问题，强调了技术与临床角度之间的不协调性，提出了跨学科合作的必要性，并为解决与人工智能公平性相关的临床问题提供了可能的解决方案。

    Apr, 2023

  • 人工智能模型中的公平追求：一项调查

    人工智能（AI）模型在我们的生活的各个方面得到广泛应用，如医疗、教育和就业。鉴于它们在许多敏感环境中使用并做出可能改变生活的决策，潜在的偏见结果成为一个紧迫问题。开发人员应确保这些模型不表现出任何意外的歧视做法，如对特定性别、种族或残疾人的偏袒。随着AI系统的广泛应用，研究人员和从业者对不公平的模型意识越来越强，并致力于减少其中的偏见。本文综述了研究人员在确保AI系统公平性方面所做的不同努力。我们探讨了当前文献中关于公平性的不同定义，通过对不同类型的偏见进行分类，研究了不同应用领域中存在的出现偏见的AI案例。我们对研究人员在减少AI模型偏见方面采用的方法和技术进行了详细研究。此外，我们还深入探讨了偏见模型对用户体验的影响以及在开发和部署此类模型时需要考虑的伦理问题。我们希望通过分享这份全面的综述，帮助研究人员和从业者理解AI系统中公平性和偏见的复杂问题。通过此综述，我们旨在促进公平和负责任AI领域的进一步讨论。

    Mar, 2024

  • 机器学习在医疗中的公平性教程

    在临床决策和预防现有医疗不公平中确保机器学习算法在所有患者群体中安全有效，不会对特定患者造成不利影响，对于医学信息学社区非常重要。本教程的目标是向医学信息学社区介绍机器学习中的公平常见概念，重点关注临床应用和实际实施。

    Jun, 2024

  • 理解推荐系统中的公平性：医疗健康视角

    本研究探讨了公众对医疗推荐中公平性的理解，填补了现有研究空白。通过调查四种公平性指标的认知，揭示公众在算法公平性方面的理解普遍偏低，强调了对公平性教育和信息传递的必要性。研究结果表明，一刀切的公平性方法可能不够有效，提出需要根据具体情境设计公平的AI系统。

    Sep, 2024

  • 重新审视技术偏见缓解策略

    本文研究了人工智能领域中缓解偏见和增强公平性的技术解决方案的实际局限，特别是在医疗保健环境中的应用。通过对偏见和公平性的定义、缓解策略的优先选择、解决方案有效性的时间节点、适用的人群及设计背景等五个关键维度的结构性分析，我们揭示了技术解决方案在实际应用中的不足，并讨论了如何利用价值敏感AI框架促进利益相关者参与，从而提升偏见缓解的有效性。

    Oct, 2024