May, 2023

面向制造环境的灵活且易理解知识表达方式，用于数据高效学习和可信人机协作

PDF
TL;DR利用 Gärdenfors 的概念空间框架，基于属性分解的方法提高了人工智能代理的知识表示，并设计了一种基于模糊逻辑的类别归属判定模型；此方法在制造领域的应用能够有效提高人工智能代理的可解释性和可信度。
artificial intelligencetrustworthinessmanufacturingknowledge representationexplainability
发现论文，激发创造
  • 可解释化多智能体强化学习的概念学习

    本文介绍了一种将领域专家的可解释概念纳入到多智能体强化学习模型中的方法，以提高模型的解释性和稳定性，提高性能和样本效率。

    Feb, 2023

  • 知识图谱上可理解的人工智能：一项概述调查

    了解可理解的人工智能应用于知识图谱的历史、区分和研究现状，并识别未来研究的空白。

    Apr, 2024

  • 可解释的目标导向智能体和机器人 —— 综合评述

    该文章重点讨论解释目标驱动型智能代理人和机器人的方法，强调透明度、可理解性和持续学习的策略。它提出了可行的目标驱动可解释代理人和机器人的实现路径和要求。

    Apr, 2020

  • 强化学习代理策略理解与可视化框架

    本研究提出了一个框架，用于学习顺序决策任务的可理解模型，通过时间逻辑公式表征代理策略，并使用一个嵌入方法对代理足迹进行聚类，得出在不同的聚类中解释代理策略的逻辑公式，通过编写一个特征提取器和一个可视化工具，对在 StarCraft II 中的战斗场景进行了评估，实验结果表明，本框架可以将代理足迹分为不同的行为组，并为每个行为组提供一致、有意义且易于理解的策略描述。

    Aug, 2022

  • 将常识推理和知识获取结合，为机器人的深度学习提供指导

    该论文提出了一种基于认知系统的深度网络模型，以探索深度网络模型内部表示和推理机制的知识表示、推理和学习挑战，并通过使用空间关系的接地和递增式的学习，以及基于非单调逻辑推理和基础常识域知识的决策，实现对场景中物品遮挡和稳定性的推理，通过识别与任务相关的图像区域训练深度网络模型来提高决策的可靠性和减少相关的训练工作量。

    Jan, 2022

  • 可解释知识图谱嵌入：支持机器人行动推理的知识推理协调

    该研究使用决策树分类器解释学习的黑盒知识图谱表示，提供自然语言解释以帮助非专家解决机器人行为问题，结果表明该框架提供了对知识图谱对机器人决策的影响的解释和校正。

    May, 2022

  • 高风险领域中基于概念和论证的可解释模型

    本文提出了基于概念挖掘和基于量化论证的模型（CAM），通过获得人类可理解的概念及其关系，进行知识表征和推理，从而提供一种透明、可解释的模型，该模型具有与人类理解相一致的知识，能够与其他最先进的模型取得竞争结果。

    Aug, 2022

  • 机器人透明决策的公理学习和信念跟踪

    通过结合非单调逻辑推理、深度学习和决策树归纳，使机器人能够在推理和学习过程中提供对其决策、信仰和假设动作结果的关系描述，完成对场景理解任务和计划任务的支持。

    Oct, 2020

  • 交互式机器人操作的混合组合推理方法

    本文介绍了一种神经符号 (混合) 组合推理模型，以将语言引导的视觉推理与机器人操作相结合。该模型通过使用共享的原始技能库以任务非特定的方式处理所有情况。通过语言解析器将输入查询映射为由这些原语组成的可执行程序取决于上下文。结果表明，该方法达到了非常高的准确性，同时可以进行少量的视觉微调，从而实现了真实场景的可转移性。

    Oct, 2022

  • 机器人任务规划的可解释性和可预测性

    针对智能机器人的高水平任务计划存在的问题，提出了 “计划可解释性” 和 “可预测性” 的概念，通过条件随机场模型学习标签方案并对新计划进行标签，用以提高机器人计划的可解释性和可预测性，该方法经过了人机交互和实际机器人测试并取得了较好的性能。

    Nov, 2015