Nov, 2021

人类培训、辅助和可解释性的指导人工智能

HTML
PDF
TL;DR我们提出了一种基于神经网络的可解释性人工智能(XAI)的新方法，名为Instructive AI，旨在通过观察人类行动对人类实施指导以帮助人类更好地完成任务并理解、预测和纠正人工智能行动。通过JHU/APL开发的Instructive AI玩家在合作式纸牌游戏Hanabi中进行的实验表明，此技术在提高人类绩效的同时对可解释性做出了独特的贡献。
发现论文，激发创造
  • 人工智能系统中的解释性：文献综述、主要观点和出版物概要，以及可解释性人工智能参考书目

    这篇综述论文回答了“什么是良好的解释”的问题，并涵盖了人工智能 (AI) 系统的历史、现代 AI 的解释问题和挑战、领先心理学理论的发展。鉴于 XAI 系统的特殊性，建议 AI/XAI 研究人员在其研究报告中包含更多有关其经验或实验方法的详细信息，类似于实验心理学研究报告，包括参与者、说明、程序、任务、被试变量 （度量和指标的操作定义）、自变量 （条件）和控制条件。

    Feb, 2019

  • 利用原因来提高人类任务表现

    研究了如何设计一个可以帮助人类玩家改善棋类游戏表现的算法，该算法利用机器学习及透明度技术生成AI的内部任务模型解释，提供了自动判定和指导用户的决策方法。

    Feb, 2020

  • 人工智能系统中的解释原则

    本文探讨了人类尺度的设计、测试和实现Explainable Artificial Intelligence的基本概念，并提出了一种“自解释指南”的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

    Feb, 2021

  • 可解释人工智能在人工智能决策中的应用的Meta分析

    这篇论文通过对Explainable AI领域的研究进行统计元分析，得出了Explainable AI对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于AI的非人类决策中人类因素的影响。

    May, 2022

  • 可解释人工智能在临时人机协同中的效用

    本研究通过两个实验研究了应用可解释人工智能技术对于提高团队情境感知、共享心智模型等关键特征的人-机团队的效果。结果发现，人-机团队的构成对可解释人工智能技术的效果产生了显著影响，初学者受益于通过可解释人工智能技术提高的情境感知，而专家则会由于注意力过度分散导致表现下降。因此，在人-机团队的设计和应用过程中，应谨慎考虑团队构成对于可解释人工智能技术效果的影响。

    Sep, 2022

  • 人工智能与人类知识的桥梁：AlphaZero中的概念发现与转移

    提取出的五个关键词是：人工智能、AlphaZero、国际象棋概念、人类专家、人工智能应用。研究论文的简短总结为：通过提取AlphaZero中的国际象棋概念，人类专家能够成功学习和改进解决这些概念的能力，这在推进人类知识前沿方面取得了重要的里程碑，对于人工智能的交互方式和广泛应用具有深远的影响。

    Oct, 2023

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 基于(X)AI学习系统的领域知识传递

    通过利用可解释性人工智能系统在专家的指导下训练新手可以替代传统学习系统，从而传授隐性知识并调节学习者的认知风格，为人工智能开发者提供未来定制(T)XAI-based学习系统的设计方案。

    Jun, 2024

  • 解释的解释

    本研究关注在高风险人工智能系统中，用户对解释的需求未能得到满足的问题。论文提出了一种混合方法，通过结合知识基础设施与适用的机器学习数据，开发认知代理，以满足用户对解释的需求。这种方法的显著发现是，新的代理系统能够有效地协助人类进行决策，并提升高价值任务中的透明度与信心。

    Sep, 2024

  • 解释的解释

    本研究针对高风险AI系统中对解释性的需求，提出了人类中心的可解释AI（HCXAI）方法，解决了现有机器学习系统无法提供有效解释的问题。通过混合方法开发知识基础的智能代理，使其结合数据与人类合作，显著提升了在关键领域中的解释能力，确保最终决策由人类负责。

    Sep, 2024