Jan, 2023

学习和解释代理之间交互的智能协议

PDF
TL;DR本文探讨了人类与机器学习系统的交互，并提出了一个通信协议，使得机器学习决策支持系统能够实现人机两方面的可理解性。在该通信协议中，符合一定兼容性条件的智能体之间进行交互，定义了弱 / 强两种双向可理解性，使得人类和机器学习系统之间实现了智能信息的双向交流。
发现论文，激发创造
  • 可解释的人工智能与人类互动：一种规划视角

    AI 系统与人类的相互作用中，理解计算机中的心智模型和说明性交流对于实现合作场景和操纵人类期望至关重要。

    May, 2024

  • 对解释的人类可解释性评估

    研究探讨了通过对模拟响应、验证建议响应、确定建议响应的正确性并观察其输入变化等三项特定任务，来解释可解释的 AI 的互动可能。结果表明，特定的正则化可以用于优化可解释性，而一些共同点和设计原则也可能存在于解释的系统之间。我们的结果表明，认知块比变量重复更影响表现，并且这些趋势在任务和领域中保持一致。

    Jan, 2019

  • 可解释人工智能的基础交互协议

    本文探讨了可解释人工智能系统中的交互式解释问题，并提出了一种基于代理对话框架的交互协议模型，通过对 398 个解释对话的分析和人机交互实验的验证，证明该模型能够准确地模拟人机交互对话。

    Mar, 2019

  • 人类与神经网络之间的双向知识交互接口

    通过构建一个双向交互界面，利用结构化的视觉概念及其关系作为人与神经网络之间的知识交流的 “语言”，研究在解释性人工智能领域取得了一定成果，但目前尚未提供人与神经网络之间的有效方法，以解决神经网络的可解释性和人机知识交互之间的问题。实验证明，通过该交互界面，神经网络能够向人类提供易于理解的推理解释过程，并且人类的参与和先验知识能够直接有效地提升神经网络的性能。

    Jan, 2024

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • 重新审视可解释性：从实践者的角度看对话式解释

    研究如何让领域专家能够有效地与机器学习模型进行互动和问责，通过自然语言对话的形式提供交互式的解释。

    Feb, 2022

  • 打造可理解的人工智能的挑战

    本文旨在探讨人工智能在关键任务中的应用，提出了增强人工智能可解释性的重要性，并总结了当前构建可解释模型及说明方法的研究进展和关键方向。

    Mar, 2018

  • 机器学习中基于逻辑的可解释性

    本文概述了现有关于计算机生成机器学习模型正式解释的研究，旨在与之前基于非正式解释的方案进行比较，并讨论了各种问题，包括基于不同机器学习模型的最佳逻辑编码以及如何使解释具有可解释性。

    Oct, 2022

  • 面向可解释人工智能的基于场景对话模型

    本文旨在探讨为了与用户建立信任，可解释人工智能系统需要包括一个解释模型，其可以向交互的人类沟通其内部的决策、行为和操作。该文通过对 398 种不同解释对话类型的记录进行分析，提出了一种人类解释对话模型，并使用基础理论进行编码和确定其关键成分，还进一步分析了对话中发生的序列和周期的关系，提出了一种泛化状态模型。

    Jun, 2018

  • 一个解释并不能适用于所有情况：交互式解释对于机器学习透明度的承诺

    通过交互式机器学习，将对比解释应用于黑盒机器学习系统，个性化调整其条件语句并通过提问 “What if？” 的方式提取更多解释，从而提高系统的透明度。

    Jan, 2020