Sep, 2022

自然对话中的机器学习模型解释：走向会话型可解释人工智能代理

PDF
TL;DR本文介绍了如何将可解释人工智能（XAI）应用于对话代理中，通过使用自然语言理解和生成组件来理解用户的信息需求并提供相应的解释。作者通过综合调查文献，提出了一份全面的可解释人工智能问题列表及相应的解释方法。
explainable aiblack-box modelsconversational agentnatural language understandingquality-controlled paraphrases
发现论文，激发创造
  • 可以请问一个后续问题吗？理解神经网络可解释性中对话的好处

    我们研究了自由形式对话是否可以提高用户理解静态解释的能力，改善对解释方法的接受度和信任度，并促进人工智能与人类的合作。实证结果表明，对话显著提高了理解、接受度、信任度和合作能力，强调了以自由形式对话的方式提供定制化模型解释的重要性，并为未来的对话解释设计提供了启示。

    Sep, 2023

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 面向可解释人工智能的基于场景对话模型

    本文旨在探讨为了与用户建立信任，可解释人工智能系统需要包括一个解释模型，其可以向交互的人类沟通其内部的决策、行为和操作。该文通过对 398 种不同解释对话类型的记录进行分析，提出了一种人类解释对话模型，并使用基础理论进行编码和确定其关键成分，还进一步分析了对话中发生的序列和周期的关系，提出了一种泛化状态模型。

    Jun, 2018

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • ConvXAI：通过对话提供异质性人工智能解释来支持人工智能科学写作

    通过实验展示了 ConvXAI, 一个将多种 XAI 类型整合到一个通用对话接口上，利用实际用户需求来提高实用性，在人们感知、写作和生产力方面提高了实用性。

    May, 2023

  • 面向用户的人机交互可解释人工智能框架

    提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

    Sep, 2021

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 拓展认知学习的增强性与可解释性人工智能

    我们介绍了一个使用可解释的人工智能（XAI）的智能系统（CL-XAI）用于认知学习的研究，其两个主要目标是探索人类学习者如何理解使用 XAI 工具的人工智能模型的内部机制，并通过人类反馈评估这些工具的有效性。使用 CL-XAI 在一个基于游戏的虚拟案例中说明了其应用，学习者通过解决组合问题来增强解决问题的能力和加深对复杂概念的理解，突出了认知学习和协同学习中潜在的转变性进展。

    Dec, 2023

  • 网络安全可解释人工智能调查

    通过对网络系统中的网络驱动安全威胁和问题进行系统分类，本文就网络安全中的可解释人工智能问题进行了回顾和研究，探讨了解释人工智能目前的挑战和局限性，并提出了未来的研究方向。

    Mar, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021