Aug, 2023

正骨学中的可解释人工智能：挑战、机遇与前景

PDF
TL;DR人工智能在医疗保健领域的应用相对较慢，主要是由于监管框架、患者隐私关注和数据异质性等因素。在骨科领域，解释性和可解释性的人工智能模型的缺乏阻碍了其实施。通过开发优先考虑透明度和可解释性的人工智能模型和算法，解决解释性人工智能在骨科领域的挑战需要让临床医生、外科医生和患者能够理解任何基于人工智能的预测或描述模型的贡献因素。该研究强调了在骨科实践中解释性人工智能中存在的几个关键挑战和机会，强调了人工智能从业者、骨科专家和监管机构之间的跨学科合作以建立解释性人工智能在骨科领域的采用标准和指南的需求。
artificial intelligencehealthcareexplainable aiorthopedicsinterpretability
发现论文，激发创造
  • 可解释的人工智能在医疗保健中的简要回顾

    本文系统地评估了透明度和可解释性在医疗保健领域中的重要性和相关的机器学习模型。通过六种不同的方法探讨了 XAI 的各个方面和挑战，并探明了其在解决医疗保健领域中存在的问题方面所起到的重要作用。

    Apr, 2023

  • 医疗领域中的可解释人工智能应用：系统综述

    近年来，医疗人工智能领域已取得显著进展，但面临着建立用户信任、符合法规和合乎道德使用数据等挑战。这篇论文针对代表性样本中的 198 篇文章对医疗决策支持的可解释人工智能解决方案进行了文献综述，发现大多数解决方案采用了模型无关的可解释人工智能技术，深度学习模型被广泛应用，用户界面的可视化和交互更有助于理解解释和系统推荐。在医疗和人工智能专家之间加强合作，以指导可解释人工智能解决方案在医学领域的设计、实施和评估，仍需要开展更多的研究。

    Aug, 2023

  • 医疗保健可解释人工智能综述：为什么、如何和何时？

    本研究系统分析了解释性人工智能（XAI），重点考虑目前在医疗领域中使用的模型。研究分析了 XAI 的流行趋势，并介绍了研究的主要方向。此工作的讨论将有助于规范 XAI 领域。

    Apr, 2023

  • 运用可解释人工智能解读膝骨关节炎诊断特征：一项系统综述

    该研究调查了用于膝关节骨关节炎诊断的可解释人工智能技术，旨在提供膝关节骨关节炎可靠诊断方法的更多见解并鼓励其在临床实践中的采用。

    Aug, 2023

  • 可解释人工智能（XAI）综述：面向医疗 XAI

    这篇论文概述了解释机器学习算法决策的不同方法，并将它们应用到医学研究中，以提高医生对这些算法的信任度。

    Jul, 2019

  • 医疗保健中的可解释人工智能为何必要

    本文讨论了医疗人工智能（AI）领域中，可解释 AI 的可靠性问题，并提出了解释 AI 是人机交互及防止失控的主要工具的观点。

    Jun, 2022

  • 生物医学信号和图像处理中的可解释 AI（XAI）：承诺与挑战

    本文综述了生物医学数据处理中可解释人工智能的发展，并提出了 IEEE 信号处理杂志即将于 2022 年 3 月推出的深度学习在生物医学影像和信号处理中的特刊。

    Jul, 2022

  • 可解释性在构建值得信赖的医疗人工智能中的作用：术语、设计选择和评估策略的综合调查

    本文回顾了近期文献，提出了可解释人工智能系统的设计指南以及可解释人工智能领域的规范化贡献。该文章提出了一个框架，以指导选择可解释人工智能方法的类别，进而解释重要属性的相对重要性。同时也发现，尽管定量评价指标对于客观标准化评估很重要，但对于某些属性（如 “清晰度”）和解释类型（如 “基于实例的方法”）仍然缺乏。最终的结论是，可解释建模可以为可信的人工智能做出贡献，但还需要在实践中证明可解释性的好处，并可能需要采取补充措施，例如报告数据质量，进行广泛（外部）验证和监管等措施。

    Jul, 2020

  • 透明人工智能：为预测术后并发症开发可解释界面

    鉴于手术操作的规模庞大和术后死亡率的显著高位，评估和管理手术并发症已成为一个重要的公共卫生问题。为了解决现有人工智能工具在风险监测和诊断方面缺乏适当的可解释性、公平性和可复现性的问题，我们提出了一个解释性人工智能（XAI）框架，旨在回答为什么、为何不、如何、如果以及其他问题，目标是提高人工智能模型的可解释性和透明度。我们融合了各种技术，如局部可解释的模型无关解释（LIME）、SHapley Additive Explanation（SHAP）、反事实解释、模型卡片、交互式特征操作界面以及相似患者的识别来解决这些问题。我们展示了一个遵循这一框架用于预测术后重大并发症的 XAI 界面原型。这个初始实现为我们的 XAI 框架的广阔解释潜力提供了有价值的见解，并代表了朝着其临床应用迈出的初步一步。

    Apr, 2024

  • 评估流行的可解释人工智能在临床预测模型中的应用：能否信赖？

    本研究旨在评估两种流行的可解释人工智能方法在医疗保健背景下解释预测模型的精确度，重点考虑是否产生与应用任务相一致的域适当表示，如何影响临床工作流程以及是否一致性，结果表明目前的技术还有改进的空间。

    Jun, 2023