Oct, 2022

将黑盒子变为白盒子：将 XAI 应用于心电图读取环境中的实验研究结果

PDF
TL;DR本文旨在研究用户认知解释和可解释人工智能 (XAI) 系统之间的关系，为评估以人工智能为基础的支持系统的人机交互方面做出贡献，为进一步研究 XAI 及其对决策制定和用户体验的影响奠定基础。研究结果表明，黑匣子系统的可解释性与用户特征 (如专业知识)、对 AI 和 XAI 系统的信任、解释质量的认知以及决策过程自动化的倾向之间存在关联。
explainable aiblack-box systemstransparencycognitive dimensionuser perception
发现论文，激发创造
  • 黑盒子模型解释及人类可解释性期望 -- 在谋杀预测背景下的分析

    本研究采用六种 XAI 措施并邀请六名人类专家对谋杀预测相关黑盒模型生成的解释进行人类可解释性期望评估，结果显示～49% 的一致性并提出了进一步研究的需求，以满足实际问题的复杂性和人类因素的要求。

    Oct, 2022

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 可解释化人工智能用于定制化用电反馈 -- 可视化实验评估

    通过采用机器学习与可解释的人工智能技术，我们创建了五个个性化反馈的可视化方案，以帮助用户准确识别电力消耗数据的特定模式，并显示在具有已知可视化模式的界面上。我们的实验表明，这样的 XAI 可视化方案能够被用户准确理解和应用。

    Aug, 2022

  • 出售黑盒子！监管可解释人工智能（XAI）可能会损害消费者

    通过博弈论模型，本文挑战了强制要求完全透明的可解释人工智能 (XAI) 法规导致更大社会福利的普遍观念，并发现可解释人工智能 (XAI) 法规可能是多余的，事实上，强制要求完全透明的可解释人工智能 (XAI) 法规可能会使公司和客户陷入困境。这揭示了在最大化福利和接收可解释的人工智能输出之间存在权衡，同时也讨论了对政策制定者和公司的管理意义。

    Sep, 2022

  • 可解释的人工智能在医疗保健中的简要回顾

    本文系统地评估了透明度和可解释性在医疗保健领域中的重要性和相关的机器学习模型。通过六种不同的方法探讨了 XAI 的各个方面和挑战，并探明了其在解决医疗保健领域中存在的问题方面所起到的重要作用。

    Apr, 2023

  • 可解释人工智能（XAI）在物联网中的应用调查

    本文针对黑盒子人工智能模型存在的不可解释性问题，在物联网领域提供了一些可解释的人工智能模型的系统性研究和分类，同时探讨了一些挑战性问题和未解决问题，并给出了未来发展方向。

    Jun, 2022

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 交互作用：一种基于用户交互的图像分类模型解释方法

    通过用户互动，我们提出了一种基于互动的可解释的 AI 方法，通过修改图像来观察分类结果的变化，使用户能够辨别影响模型决策过程的关键特征，从而将他们的心智模型与模型逻辑对齐。该方法通过用户参与和理解为可解释的 AI 系统提供了更直观和易于访问的方式。

    Apr, 2024

  • 可解释人工智能（XAI）综述：面向医疗 XAI

    这篇论文概述了解释机器学习算法决策的不同方法，并将它们应用到医学研究中，以提高医生对这些算法的信任度。

    Jul, 2019