Jan, 2023

探究直接惩罚在多智能体强化学习系统中对合作出现的影响

PDF
TL;DR本文对多智能体强化学习系统中直接惩罚形式的合作行为和学习动态进行了全面分析，并比较了第三方惩罚与直接惩罚的差异性，讨论这些机制在合作人工智能系统设计中的应用意义。
cooperationailearning agentspunishmentmulti-agent systems
发现论文，激发创造
  • 通过多智能体强化学习解构合作与排斥

    通过多代理强化学习模拟，我们发现网络重连有助于互相合作，即使一个代理人总是主动提供合作。此外，我们还发现排斥本身不足以促使合作出现，反而是通过合作的学习而出现，并且存在的合作因为排斥而得到加强。这些发现对于实现合作与网络重连的必要条件和机制提供了深入的见解。

    Oct, 2023

  • 使用多智能体强化学习对社会困境中的道德选择建模

    该文探讨了将道德选择嵌入智能系统的重要性，提出了使用强化学习设计奖励结构以探究道德问题，并在三种社交困境游戏中分析了不同类型的道德如何影响智能体的行为，探讨了这些发现对于智能和混合人工智能社会的发展的影响。

    Jan, 2023

  • 通过选择性交互和长期经验增强多智能体强化学习中的合作

    基于多智能体强化学习的计算框架通过模拟囚徒困境游戏中的长期经验使智能体能够选择困境策略和互动邻居，并发现长期经验使智能体能够识别非合作邻居并偏好与合作邻居互动，进而导致具有相似策略的智能体聚集，增加网络互惠性和加强群体合作。

    May, 2024

  • 竞争中的协同涌现

    通过引入具有连续模拟物理的具有挑战性的竞争性多智能体足球环境，我们研究了加强学习智能体中合作行为的出现。我们演示了分散、基于人口的联合训练能够导致代理行为的进步：从随机的行为到简单的球追逐，最终呈现出合作的迹象。我们进一步应用了一个由博弈论原理支持的评估方案，可以在没有预定义评估任务或人类基准的情况下评估代理的性能。

    Feb, 2019

  • 合作人工智能

    本研究探讨了人工智能和博弈论的交叉领域，通过设计自动学习规则和设置奖惩机制来实现良好的社会合作，致力于构建一个合作型人工智能的研究目标。

    Feb, 2022

  • 强化学习下的合作和声誉动态

    通过一种强化学习的简单模型，研究发现使用声誉机制可以解决一些协作难题，但是声誉机制本身也会生成两个协调问题，为了缓解这个问题，可以采用固定代理人和内在奖励相结合等简单机制。

    Feb, 2021

  • 不确定激励一致下的紧急合作

    不确定性降低了代理人在合作行为中的能力，但通过声誉机制和内在奖励可以增强合作环境中的代理人能力并大幅提升混合动机环境中的合作。

    Jan, 2024

  • 互惠奖励影响促进自利代理人合作

    自利个体之间的紧急合作在自然界是普遍现象，但在人工智能代理之间的互动中仍然难以实现。我们引入了回报者（Reciprocators），一种本质上受到对手行为影响回报的强化学习代理，用于促进各种时间上延长的社会困境中的合作。

    Jun, 2024

  • 学习如何激励其他学习智能体

    本文提出了在多个智能体环境中，为每个 RL 智能体提供直接向其它智能体给予奖励的能力，并通过学习后的激励函数影响其它智能体，从而达到协作的目的。实验结果显示，在 challenging general-sum Markov games 中，相对于标准 RL 和对手建模代理，这种方法在寻找最优的分工方面取得了巨大的成功。

    Jun, 2020

  • 奖励塑造对于更快乐的自主网络安全代理的研究

    研究论文探讨了奖励信号对深度强化学习算法训练自主网络防御代理的影响，研究了奖励信号的特性，结合惩罚和正向外部奖励进行训练，并评估了内在好奇心作为内部正向奖励机制的效果以及其在高级网络监控任务中的优势。

    Oct, 2023