本研究通过对称的零和矩阵游戏，证明了联盟形成可以被看作是一个社会困境，并且实证表明，在多代理强化学习中，天真的方法往往失败。同时，我们引入了点对点的合约机制来发现和执行联盟。最后，我们将我们的代理模型推广到了包括时间延伸合约的情况，并提出了进一步研究的机会。

Feb, 2020

该研究的目标是研究协作问题的多个方面，并创新人工智能以解决这些问题，其中包括构建具有协作能力的机器代理程序，构建工具以促进（机器和/或人类）代理程序的协作，并以适用于协作问题的见解进行人工智能研究。

Dec, 2020

本文通过进化博弈理论和基于代理的建模和仿真技术，对在多智能体系统中通过多个交互者的存在和互动的多种行为策略下涌现和演变的集体行为机制的主要研究方向和挑战进行了总结，包括将认知和情感机制引入智能体的实现、在复杂网络中促进亲社会行为的成本效益干预、AI安全发展生态的监管和治理以及随机演化多人游戏的平衡分析。总之，本文描述了该小组视图或优先考虑的MAS研究中的重要开放问题。

May, 2022

Melting Pot 2.0是一种用于研究多智能体人工智能的工具，它提供了一种评估协议，用于测量对小组社交环境的泛化能力，并支持具有不对称角色的情景。

Nov, 2022

本文对多智能体强化学习系统中直接惩罚形式的合作行为和学习动态进行了全面分析，并比较了第三方惩罚与直接惩罚的差异性，讨论这些机制在合作人工智能系统设计中的应用意义。

Jan, 2023

通过模拟，本文比较了3种auction和hedonic游戏算法应用于同构和异构机器人集合的效果，探讨了coalition formation algorithm在大型机器人集合中分配任务的挑战和转化路径。

Jun, 2023

通过进化博弈理论的方法，研究发现无条件帮助所有人的AI智能体可以促进人类的合作水平，在缓慢发展的社会中，它可以比只帮助被认为值得合作的人群的歧视性AI更有效地促进合作。在快速发展的社会中，歧视性AI比“撒玛利亚人”智能体更能促进更高水平的合作。

Jun, 2023

大型语言模型根据其他人生成的文本来引导它们的行为。这种能力以及它们在在线环境中越来越普遍的存在预示着它们将有意或无意地“编程”彼此并形成新兴的人工智能主体性、关系和集体。在这里，我们呼吁研究界调查这些互动人工智能的“类社会”属性，以增加它们对人类社会和在线环境健康的回报并减少风险。我们使用一个简单的模型及其输出来说明这样的新兴分散型人工智能集体如何扩大人类多样性范围并降低在线毒性和反社交行为的风险。最后，我们讨论了人工智能自我调节的机会，并解决了与创建和维护分散型人工智能集体相关的道德问题和设计挑战。

Feb, 2024

探讨了人工智能与合作在社会困境中交叉的三个关键领域，包括多智能体合作、人工智能与人类合作以及运用人工智能增强人与人之间的合作，并提出了未来研究方向。

Feb, 2024

通过演化方法，道德基础可以解释为合作问题的适应. 遵循广义的'演化'，满足演化条件的演化人工智能将受到与生物实体相同的合作演化压力. 本文着重讨论随着物质安全和财富的增加，合作的适应性增强，针对人类、其他社会和人工智能. 随着对物质资源利用逐渐减少的回报的递减，也暗示了例如殖民整个星系的动力将不存在的可能性，从而可能解释 Fermi 悖论的出现. 此外，本文认为旧社会能够诞生出更强、更适应环境的超级人工智能，因为超级人工智能是可能的且适应性更强. 最后还讨论了道德和目标如何影响生活和社会的有效方式，强调环境、文化和法律，以及以吃饭为例的阐述. 附录中包含了快速殖民银河系的算法、在递减回报下合作与公平进化的模型，以及用于模拟信号发展的软件. 还指出由于数学原因，不存在指数级的殖民或繁殖，因为每个实体占据一定的空间.

Apr, 2024