Aug, 2023

多智能体优化解决方案的对比解释

PDF
TL;DR在多个真实场景中，代理参与了优化问题，然而由于这些场景往往是过约束的，所以最优解并不总能满足所有代理的需求。为了解决代理对初始解满意度不高的问题，本文提出了一种名为 MAoE 的领域无关方法，通过生成一个新的强制满足代理需求的解并最小化该解与初始解之间的差异，从而为代理提供对比解释并突出两个解之间的差异，经计算评估和用户研究验证，证明了 MAoE 能够为大规模多代理优化问题生成对比解释，并且展示了在这些解释给出后，人们对初始解的满意度得以提高。
发现论文，激发创造
  • 多智能体环境决策解释的人工智能

    介绍了在多智能体环境下，通过提供解释来增加用户满意度的重要性，提出了一个新的研究方向 xMASE，并回顾了现有的技术水平和为提高用户满意度而生成解释的算法。

    Oct, 2019

  • 数学优化中数据驱动的可解释性框架

    通过引入解方案的可解释性作为另一个评估标准，我们可以在目标值和可解释性之间找到权衡解决方案，从而提高数学规划在实践中的易用性。

    Aug, 2023

  • 稀疏全局对比解释下的策略优化

    本文提出了一种基于强化学习的框架，旨在通过稀疏的、易于理解的变化来改进现有的行为策略，以最小的改变获得尽可能多的利益。我们将最小的改变定义为原始策略与所提出策略之间的稀疏全局对比解释。在保持全局对比解释简短的约束条件下改进当前策略，并在离散 MDP 和连续 2D 导航领域中演示了我们的框架。

    Jul, 2022

  • 多目标反事实解释

    该研究提出了一种多目标反事实解释方法（MOC），将反事实搜索转化为多目标优化问题，通过对特征空间的多样性维护，返回一组不同权衡的反事实，并在实际案例中展示了 MOC 的有用性和与现有方法的对比。

    Apr, 2020

  • 多智能体强化学习的策略解释

    本文介绍了针对多智能体强化学习提出两种方法生成策略解释的手段：关于智能体协作和任务序列的策略总结和回答智能体行为问题的语言解释。在三个多智能体应用领域的实验结果及用户研究中，表明了该方法的可扩展性和显著提高了使用者满意度和性能评价结果。

    Apr, 2022

  • 多智能体深度强化学习的协作探索

    本文提出协作多智能体探索（CMAE）方法，通过归一化熵技术从多个状态空间中选择目标，实现智能体之间探索的协调性，取得了多项任务的良好表现。

    Jul, 2021

  • 基于人类专业知识的可解释模型：优先采用专家混合模式

    提出了一种名为 Preferential MoE 的人类 - 机器学习混合专家模型，它可以根据决策中有无人类专家经验的必要性，在需要时对数据分类器进行增强。该模型展示了可解释的门控函数，提供何时遵循或避免人类规则的信息。提出了解决具有凸次问题的耦合多目标问题。提出近似算法并研究其性能和收敛性。最后，我们演示了 Preferential MoE 在治疗人类免疫缺陷病毒（HIV）和管理重度抑郁症（MDD）的两个临床应用中的实用性。

    Jan, 2021

  • 线性优化的反事实解释

    探究了对复杂 AI 系统内部工作方式的理解中产生的反事实解释（CE）概念，并将 CE 的思想转化为线性优化，提出、激发、并分析了三种不同类型的 CE：强 CE、弱 CE 和相对 CE。通过检测和利用后一种情况下产生的优化问题的隐藏凸结构，证明计算相对 CE 的效率高。通过对 NETLIB 库进行广泛的数值实验研究，证实了获得相对 CE 可以在与解决原始线性优化问题相同数量级的时间内完成。

    May, 2024

  • 可解释多智能体强化学习应用于时间查询

    该研究提出了一种基于 PCTL 逻辑公式和概率模型检验的方法，用于为多智能体强化学习系统（MARL）生成策略级对比解释以回答时间用户查询，以帮助用户理解复杂环境中 MARL 代理的新兴行为，并能够解释为何用户查询不可行。实验表明，该方法有效提高了用户的性能与满意度。

    May, 2023

  • 随机序列多智能体决策的因果社交解释

    我们提出一个新颖的框架，用于在随机序列多智能体环境中为智能体的决策提供因果解释，通过自然语言交流回答广泛的用户查询，涉及联想、干预或反事实的因果推理。该方法不假定任何特定的因果图，而是依赖于相互作用的生成模型来模拟反事实世界，从而识别决策背后的显著原因。我们将该方法应用于自动驾驶的运动规划，并在耦合交互的模拟场景中进行测试。我们的方法可以正确地识别和排名相关的原因，并向用户提供简明的解释。

    Feb, 2023