Dec, 2023

可解释的脑 - 机接口人工智能方法：回顾与设计空间

PDF
TL;DR本综述论文提供了应用于脑机接口的可解释人工智能技术的整合视角。对大脑信号进行解释的预测模型在各种高风险应用中使用。然而，在这些复杂模型中实现可解释性是具有挑战性的，因为这会损害准确性。为了解决脑机接口的可解释性需求，提出了可解释人工智能为脑机接口的综合框架 (XAI4BCI) 的文献缺乏整合视角的问题。该研究通过系统性回顾和元分析提出了六个关键的研究问题，涵盖了 XAI 在脑机接口的目的、应用、可用性和技术可行性方面。本研究结果强调当前研究主要集中在解释性方面，旨在为开发人员和研究人员提供成果的解释并增强模型性能。研究还从哲学、心理学和社会科学中获取了独特的方法、优势和限制。同时，提出了一种面向 XAI4BCI 的设计空间，考虑到为脑机接口发展和部署生命周期中的各利益相关方定制可视化和研究预测模型结果的不断需求。本论文是第一篇仅专注于回顾 XAI4BCI 研究文章的论文。该系统性回顾和元分析结果与提出的设计空间引发了关于建立 BCI 解释标准的重要讨论，并突出了当前的局限性，指导了 XAI 在 BCI 领域的未来发展。
explainable artificial intelligencebrain-computer interfacesxai for bciinterpretabilitypredictive models
发现论文，激发创造
  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 基于概念的可解释人工智能综述

    通过对 C-XAI 方法进行 thorough review，本文提供了分类体系、选择指南和常见评估策略，旨在促进可解释人工智能领域的发展。

    Dec, 2023

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 推动可解释人工智能迈向人类智能：铸造人工大脑之路

    人工智能与神经科学在可解释的人工智能中的交叉是增强复杂决策过程中透明度和可解释性的关键，本文探讨了从基于特征到以人为中心的方法的可解释的人工智能方法学的演变，并深入研究了它们在包括医疗保健和金融在内的不同领域的应用。同时讨论了在生成模型的可解释性、确保负责任的人工智能实践以及应对伦理影响方面的挑战。本文进一步研究了可解释的人工智能与认知科学的潜在融合、情感智能人工智能的发展以及人工智能系统中人类智能的追求。随着人工智能向人工通用智能的发展，对意识、伦理和社会影响的考虑变得至关重要。致力于通过人工智能解密大脑奥秘和实现人类智能的追求代表了结合技术进步与多学科人类认知探索的变革性努力。

    Feb, 2024

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020

  • 可解释的人工智能在医疗保健中的简要回顾

    本文系统地评估了透明度和可解释性在医疗保健领域中的重要性和相关的机器学习模型。通过六种不同的方法探讨了 XAI 的各个方面和挑战，并探明了其在解决医疗保健领域中存在的问题方面所起到的重要作用。

    Apr, 2023

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 生物医学信号和图像处理中的可解释 AI（XAI）：承诺与挑战

    本文综述了生物医学数据处理中可解释人工智能的发展，并提出了 IEEE 信号处理杂志即将于 2022 年 3 月推出的深度学习在生物医学影像和信号处理中的特刊。

    Jul, 2022

  • 可解释人工智能（XAI）在物联网中的应用调查

    本文针对黑盒子人工智能模型存在的不可解释性问题，在物联网领域提供了一些可解释的人工智能模型的系统性研究和分类，同时探讨了一些挑战性问题和未解决问题，并给出了未来发展方向。

    Jun, 2022