融合可解释的神经网络学习智能体知识用于群体引导

Apr, 2022

融合可解释的神经网络学习智能体知识用于群体引导

Fusing Interpretable Knowledge of Neural Network Learning Agents For Swarm-Guidance

Duy Tung Nguyen, Kathryn Kasmarik, Hussein Abbass

TL;DR提出了一种适用于基于神经网络的学习代理的可解释知识融合框架和 PoWSA 重新训练技术，结果表明该框架在多智能体群集指导任务中增加了 11% 的成功率和更好的稳定性，需要 14.5% 的计算成本来实现解释性。此外，该框架以一种更友好的表示形式呈现代理的学习知识。

Abstract

neural-based learning agents make decisions using internal artificial neural networks. In certain situations, it becomes pertinent that this knowledge is re-interpreted in a friendly form to both the human and the machine. These situations include: when agents are required to communica

neural-based learning agents interpretable knowledge fusion framework powsa retraining technique multi-agent swarm guidance task human-friendly representation

发现论文，激发创造

可解释化多智能体强化学习的概念学习

本文介绍了一种将领域专家的可解释概念纳入到多智能体强化学习模型中的方法，以提高模型的解释性和稳定性，提高性能和样本效率。

Feb, 2023

面向制造环境的灵活且易理解知识表达方式，用于数据高效学习和可信人机协作

利用 Gärdenfors 的概念空间框架，基于属性分解的方法提高了人工智能代理的知识表示，并设计了一种基于模糊逻辑的类别归属判定模型；此方法在制造领域的应用能够有效提高人工智能代理的可解释性和可信度。

May, 2023

人类与神经网络之间的双向知识交互接口

通过构建一个双向交互界面，利用结构化的视觉概念及其关系作为人与神经网络之间的知识交流的 “语言”，研究在解释性人工智能领域取得了一定成果，但目前尚未提供人与神经网络之间的有效方法，以解决神经网络的可解释性和人机知识交互之间的问题。实验证明，通过该交互界面，神经网络能够向人类提供易于理解的推理解释过程，并且人类的参与和先验知识能够直接有效地提升神经网络的性能。

Jan, 2024

面向异构群集的上下文感知智能控制代理

我们提出了一种设计上下文感知的群体控制智能代理的方法，通过运用群体统计量和行为库选择合适的参数，增加控制代理的情境感知而不损失计算效率，成功地在单一群体和多样化群体中进行群体管理。

Nov, 2022

互动文本游戏的知识增强代理

该文提出了一种通过注入领域知识的方式来改善基于文本游戏中的智能代理的实现过程，并考虑了多种不同的注入策略，包括知识图谱和输入编码策略的增强，实验结果在 ScienceWorld 文本游戏环境中得到证明。

May, 2023

从零开始的可解释代理通信（伴随着一种通用的视觉处理器的出现）

该研究证实了深度神经网络在自我训练过程中的无监督紧急通讯协议在真实情况下是可行的，能够顺利地识别对象，而且还能作为通用视觉特征。

Jun, 2021

基于知识的场景分类神经元解释

通过引入外部知识和核心概念，我们提出了一种新颖的知识感知神经元解释框架，用于解释图像场景分类模型的预测结果。我们的方法相比基线模型在解释性能上提供了更好的预测解释，并且核心概念能够有效地改善原始模型的性能。

Jan, 2024

使用可证明保证的方法解读神经符号学习中的原始数据

通过逻辑推理，将感知模型与由符号知识库推断出的信息相结合的神经符号混合系统在整合机器学习和符号推理方面具有很大潜力。虽然经验证据显示了混合系统学习准确感知模型的能力，但对于可学性的理论理解仍然缺乏。本文通过研究知识库来解决这个问题，并提出了一个判定知识在促进成功学习方面的有效性的标准。综合实验确认了我们的标准在基准任务上的实用性。

Aug, 2023

可解释知识图谱嵌入：支持机器人行动推理的知识推理协调

该研究使用决策树分类器解释学习的黑盒知识图谱表示，提供自然语言解释以帮助非专家解决机器人行为问题，结果表明该框架提供了对知识图谱对机器人决策的影响的解释和校正。

May, 2022

将人类和由神经网络生成的知识图进行特定任务对齐

本研究开发了一种创新方法，使神经网络能够生成和利用知识图谱，通过与人类提供的知识对齐，描述概念级知识并优化网络参数。实验结果表明，我们的方法始终捕捉到与人类知识密切对齐的网络生成的概念，并且甚至能够发现人类之前未发现的新概念。这种策略不仅增强了神经网络的可解释性，而且有助于在这些系统中集成符号逻辑推理。

Apr, 2024