Nov, 2018

可解释性？易读性？可预测性？透明度？隐私？安全性？可解读智能行为的新兴领域

PDF
TL;DR本文试图在此新兴领域提供可行的相关概念分类，以应对关于智能体可解释的行为的兴趣和我们尝试回答观察者可能会归因于智能体的意图的问题的解决方案
interpretable behaviorexplicable planninglegible planningpredictable planningtransparent planning
发现论文，激发创造
  • 人机系统可解释性

    介绍人 - 智能体系统中可解释性的分类法，并回答了解释性以及相关术语 (包括可解释性、透明度、明确性和一致性) 背后的基本问题，包括为什么需要解释性，对谁需要解释和可以生成什么解释来满足这种需求，并考虑什么时候应该向用户呈现这些信息以及如何使用客观和主观的措施来评估整个系统。

    Apr, 2019

  • 机器人任务规划的可解释性和可预测性

    针对智能机器人的高水平任务计划存在的问题，提出了 “计划可解释性” 和 “可预测性” 的概念，通过条件随机场模型学习标签方案并对新计划进行标签，用以提高机器人计划的可解释性和可预测性，该方法经过了人机交互和实际机器人测试并取得了较好的性能。

    Nov, 2015

  • 可读行为的政策规范化

    本文提出了一种从可观测模型角度注入易解释性行为，以实现在线可解释性的方法，不需要修改学习算法的组件，而是通过对策略的规范化使决策边界对易读性产生影响，以便支持使用者理解和观察 RL 机制。

    Mar, 2022

  • 可解释的人工智能与人类互动：一种规划视角

    AI 系统与人类的相互作用中，理解计算机中的心智模型和说明性交流对于实现合作场景和操纵人类期望至关重要。

    May, 2024

  • 可解释规划

    该论文探讨了人工智能的交互问题，提出了一种基于模型的 AI 规划方法，以实现人类与智能系统的有效沟通和协同解决问题的目标。

    Sep, 2017

  • 可解释的人工智能的数据科学原理

    社会对算法问题解决的能力前所未有地增强。人工智能如今应用于更多的领域，这是强大的抽象化、丰富的数据和易于使用的软件的结果。随着能力的扩展，风险也增加了，因为模型常常在没有完全理解其潜在影响的情况下部署。可解释且交互式的机器学习旨在使复杂模型更加透明和可控，增强用户机构。本综述从这一领域的不断增长的文献中综合了关键原则。

    May, 2024

  • 打造可理解的人工智能的挑战

    本文旨在探讨人工智能在关键任务中的应用，提出了增强人工智能可解释性的重要性，并总结了当前构建可解释模型及说明方法的研究进展和关键方向。

    Mar, 2018

  • Cybertrust: 从可解释到可操作和可解释的 AI (AI2)

    AI 系统需要可解释与可操作特性构建决策分析视角，提高用户信任度，通过用户信心的定量化和可视化，确保系统预测的稳定性和广泛应用。

    Jan, 2022

  • 学习和解释代理之间交互的智能协议

    本文探讨了人类与机器学习系统的交互，并提出了一个通信协议，使得机器学习决策支持系统能够实现人机两方面的可理解性。在该通信协议中，符合一定兼容性条件的智能体之间进行交互，定义了弱 / 强两种双向可理解性，使得人类和机器学习系统之间实现了智能信息的双向交流。

    Jan, 2023

  • 人机协作中的交互式计划可解释性

    本文考虑了人机团队合作的问题，并基于计划可解释性的概念，将其扩展到考虑交互设置。结果表明，我们的算法生成的计划的可解释度得分与人类计划相当，并且比不考虑该度量的 FF 计划更好，从而更好地满足人类期望，提高人机合作效率。

    Jan, 2019