我们提出一个新颖的框架，用于在随机序列多智能体环境中为智能体的决策提供因果解释，通过自然语言交流回答广泛的用户查询，涉及联想、干预或反事实的因果推理。该方法不假定任何特定的因果图，而是依赖于相互作用的生成模型来模拟反事实世界，从而识别决策背后的显著原因。我们将该方法应用于自动驾驶的运动规划，并在耦合交互的模拟场景中进行测试。我们的方法可以正确地识别和排名相关的原因，并向用户提供简明的解释。

Feb, 2023

提出一种名为 Action Semantics Network (ASN) 的网络架构，利用神经网络明确表示多智能体之间的行动语义，以提高多智能体协作的表现，适用于 StarCraft II 和 Neural MMO。

Jul, 2019

本文提出了第一个正式的有关案例的因果定义 - 粗略地说，机构是指如果其行动以不同的方式影响世界将适应其策略的系统。从此，我们推导出了第一个通过实证数据发现代理的因果发现算法，并提供了在因果模型和博弈理论影响图之间进行转换的算法。我们通过解决一些由于错误的因果建模导致的先前混乱来演示我们的方法。

Aug, 2022

本文引入一种新的框架，基于结构因果模型范式对随机、顺序决策系统进行因果解释，该框架可以为代理行为识别多个语义上不同的解释，并建立了准确方法和多个近似技术用于因果推断，同时探讨了一些模型的灵活性与性能，并且表明了基于该框架的方法优于其他方法。

May, 2022

使用可解释的多智能体系统反事实循环网络进行干预效应评估的长期预测方法，最终在自动驾驶、生物智能体和篮球计分方案的模拟实验与实际数据中证明了其优于传统方法的效果。

Jun, 2022

本文提出了一种新的方法解决并行多智能体规划问题，通过从并发多智能体规划编译到经典规划，利用现有的经典规划器解决原始多智能体问题，解决方案可直接解释为满足一组给定并发约束条件的并发计划，避免了并发操作带来的指数级膨胀问题，同时作为第一个处理受其他智能体行为有条件影响的行动效果的规划器，在理论上，我们证明了这种编译的音效和完备性；在实践中，我们展示了我们的编译器可以解决需要并行操作的具有挑战性的多智能体规划问题

Jun, 2019

我们提供了一个实验证明的深度网络学习过程，可以在此任务上取得强大的性能表现。我们考虑了几种问题形式，包括在未明确提供 “能力” 和行动影响的情况下的公式，因此存在信息挑战和计算挑战。我们的问题也可以看作是在一系列大型但确定性的马尔可夫决策过程（MDPs）中学习最优策略之一。

Apr, 2024

自动决策的机器学习模型在贷款批准、预审保释批准和雇佣等重要领域中越来越常见。然而，大多数这些模型都是黑盒子，即无法透露如何做出预测决策的过程。因此，有必要提供解释来满足透明度需求，并使人们了解为何做出某个决策。我们的研究侧重于生成反事实解释的后问题，通过考虑特征之间的因果关系来解决。本文提出了 CFGs 框架，即 CounterFactual Generation with s (CASP)，它利用目标导向的 ASP 系统 s (CASP) 从基于规则的机器学习算法生成的模型中自动生成反事实解释。我们使用 FOLD-SE 模型对 CFGs 进行了基准测试，通过一系列干预来计划并实现从初始状态到反事实状态的转换。为了验证我们的提案，我们展示了如何计算和证明反事实解释，通过想象某些或所有事实假设被改变的世界。更重要的是，我们展示了 CFGs 在这些世界之间的导航能力，即从我们的初始状态（获得了不希望的结果）到想象中的目标状态（获得了期望的决策），考虑到特征之间的因果关系。

May, 2024

本篇论文介绍了一种基于 agent assessment module 的 AI 系统执行高级指令序列并回答用户问题的方法，通过不同类别的查询来比较这种方法的计算要求和正确模型的学习所需的努力，并介绍了动态因果决策网络来捕捉 STRIPS-like 领域的因果结构。

Aug, 2021

我们提出了一个通过协助博弈框架来规范 AI 副作用的正式标准，通过权衡 “制造多大混乱” 与代理目标的代理目标来解决部分可观察马尔可夫决策过程（POMDP）表示的不确定性问题。我们展示了通过在两个格网环境中使用 ground-truth 评估来证明我们问题形式化的合理性。

Jun, 2022