May, 2024

跨学科专长推动公正可解释人工智能

PDF
TL;DR人工智能对于健康和医疗领域产生了显著影响，但在面对受到结构性压迫的人群中仍存在偏见和性能问题。本文提出了可解释人工智能（XAI）的框架，通过跨学科专家组进行评估，旨在改进模型解释、减少偏见，并为未来研究指明方向。
artificial intelligencehealthcarebiasexplainable aiinterdisciplinary expert panel
发现论文，激发创造
  • 可解释的人工智能在医疗保健中的简要回顾

    本文系统地评估了透明度和可解释性在医疗保健领域中的重要性和相关的机器学习模型。通过六种不同的方法探讨了 XAI 的各个方面和挑战，并探明了其在解决医疗保健领域中存在的问题方面所起到的重要作用。

    Apr, 2023

  • 医学图像中的可解释人工智能：一项调查

    本研究旨在分析 XAI 在医学诊断研究中应用的最新研究，对多种不同疾病（如癌症和 COVID-19）的机器学习结果进行解释，以实现想要的评估。

    May, 2023

  • 可解释人工智能（XAI）综述：面向医疗 XAI

    这篇论文概述了解释机器学习算法决策的不同方法，并将它们应用到医学研究中，以提高医生对这些算法的信任度。

    Jul, 2019

  • 医疗保健可解释人工智能综述：为什么、如何和何时？

    本研究系统分析了解释性人工智能（XAI），重点考虑目前在医疗领域中使用的模型。研究分析了 XAI 的流行趋势，并介绍了研究的主要方向。此工作的讨论将有助于规范 XAI 领域。

    Apr, 2023

  • 可解释人工智能系统设计和评估的多学科调查和框架

    本文旨在分享跨学科 XP 机器学习设计和评估方法的知识和经验，并提出了 XP 智能系统设计目标和评估方法的分类以支持 XP 研究的多样性设计目标和评估方法。我们为不同 XP 用户组的设计目标和其评估方法之间的映射提供了一个分类，以及一系列的设计指南和与之相对应的评估方法，从而关闭多学科 XP 团队的迭代设计和评估循环。

    Nov, 2018

  • 通往可解释 AI 中跨文化伦理学实践的道路

    该研究介绍了一种以跨文化伦理为基础的可解释人工智能方法，针对在全球南方低资源领域中的应用，探讨了文化差异如何影响技术采用和使用，以及如何提高用户理解和促进这些方法的有效使用。

    Apr, 2023

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020

  • 从可解释到可解读的深度学习在医疗自然语言处理中的应用：离现实有多远？

    深度学习在医疗保健研究中通过解决各种自然语言处理（NLP）任务得到了极大的增强。本文对可解释和可解释的医疗 NLP 中的深度学习进行了彻底的综述。发现注意力机制是最主要的新兴 IAI，同时也提出了重要的机会，如利用注意力提升个性化医学的多模态 XIAI 并将 DL 与因果推理相结合。

    Mar, 2024

  • 可解释性在构建值得信赖的医疗人工智能中的作用：术语、设计选择和评估策略的综合调查

    本文回顾了近期文献，提出了可解释人工智能系统的设计指南以及可解释人工智能领域的规范化贡献。该文章提出了一个框架，以指导选择可解释人工智能方法的类别，进而解释重要属性的相对重要性。同时也发现，尽管定量评价指标对于客观标准化评估很重要，但对于某些属性（如 “清晰度”）和解释类型（如 “基于实例的方法”）仍然缺乏。最终的结论是，可解释建模可以为可信的人工智能做出贡献，但还需要在实践中证明可解释性的好处，并可能需要采取补充措施，例如报告数据质量，进行广泛（外部）验证和监管等措施。

    Jul, 2020

  • 生物医学信号和图像处理中的可解释 AI（XAI）：承诺与挑战

    本文综述了生物医学数据处理中可解释人工智能的发展，并提出了 IEEE 信号处理杂志即将于 2022 年 3 月推出的深度学习在生物医学影像和信号处理中的特刊。

    Jul, 2022