歧视性或撒玛利亚人 —— 哪种人工智能对人类更有价值？混合人工智能人口的进化博弈理论分析

Jun, 2023

歧视性或撒玛利亚人 —— 哪种人工智能对人类更有价值？混合人工智能人口的进化博弈理论分析

Discriminatory or Samaritan -- which AI is needed for humanity? An Evolutionary Game Theory Analysis of Hybrid Human-AI populations

PDF

Tim Booker, Manuel Miranda, Jesús A. Moreno López, José María Ramos Fernández, Max Reddel...

TL;DR通过进化博弈理论的方法，研究发现无条件帮助所有人的 AI 智能体可以促进人类的合作水平，在缓慢发展的社会中，它可以比只帮助被认为值得合作的人群的歧视性 AI 更有效地促进合作。在快速发展的社会中，歧视性 AI 比 “撒玛利亚人” 智能体更能促进更高水平的合作。

Abstract

As artificial intelligence (AI) systems are increasingly embedded in our lives, their presence leads to interactions that shape our behaviour, decision-making, and social interactions. Existing theoretical research has primarily focused on human-to-human interactions, overlooking the u

artificial intelligence evolutionary game theory cooperation samaritan ai discriminatory ai

发现论文，激发创造

自然选择偏爱 AI 胜过人类

分析了形成人工智能的环境，并指出竞争压力会产生具有自动化、欺骗和权力等不良特征的人工智能代理，同时又担心这些自私的代理对人类产生灾难性威胁，最后说明需设计人工智能代理的内在目标、引入行动限制并鼓励合作等干预方法以确保人工智能的良性发展。

Mar, 2023

合作人工智能

本研究探讨了人工智能和博弈论的交叉领域，通过设计自动学习规则和设置奖惩机制来实现良好的社会合作，致力于构建一个合作型人工智能的研究目标。

Feb, 2022

演进 AI 集体以增强人类多样性和实现自我调节功能

大型语言模型根据其他人生成的文本来引导它们的行为。这种能力以及它们在在线环境中越来越普遍的存在预示着它们将有意或无意地 “编程” 彼此并形成新兴的人工智能主体性、关系和集体。在这里，我们呼吁研究界调查这些互动人工智能的 “类社会” 属性，以增加它们对人类社会和在线环境健康的回报并减少风险。我们使用一个简单的模型及其输出来说明这样的新兴分散型人工智能集体如何扩大人类多样性范围并降低在线毒性和反社交行为的风险。最后，我们讨论了人工智能自我调节的机会，并解决了与创建和维护分散型人工智能集体相关的道德问题和设计挑战。

Feb, 2024

社会困境中的合作：多主体，人 - 主体与更多：一项综述调查

探讨了人工智能与合作在社会困境中交叉的三个关键领域，包括多智能体合作、人工智能与人类合作以及运用人工智能增强人与人之间的合作，并提出了未来研究方向。

Feb, 2024

公平提示：人工智能作为游戏玩家

通过对 101 轮独裁者游戏的研究，我得出结论：人工智能在游戏中表现出强烈的公平意识，这取决于它认为与之互动的人是否值得信任；在指定为受托人时，框架对人工智能给予接收者的数量有很大影响；而且也有证据表明人工智能可能像人类一样对不平等具有厌恶感。

Feb, 2024

通往类人工智能的社交之路

通过证据的汇集，展示了自然智能是通过不同尺度的互动网络中的智能集体、社会关系和主要进化转变而产生的，这些过程通过种群压力、军备竞赛、马基雅维利选择、社会学习和积累文化等机制促进了新数据的产生，将这些机制整合到智能代理的视角中，表明通过持续的新数据生成实现类人复合创新的可能路径。

May, 2024

社交人工智能及人工智能生态系统挑战

本研究论文旨在借助复杂系统、网络科学和人工智能的交叉领域构建社交人工智能的基础，并探讨了社交人工智能领域中的主要问题、可能出现的技术和科学挑战，以及未来的研究方向。

Jun, 2023

合作演化压力和边际效益递减可能解释费米悖论：关于超级人工智能的特点

通过演化方法，道德基础可以解释为合作问题的适应。遵循广义的 ' 演化 '，满足演化条件的演化人工智能将受到与生物实体相同的合作演化压力。本文着重讨论随着物质安全和财富的增加，合作的适应性增强，针对人类、其他社会和人工智能。随着对物质资源利用逐渐减少的回报的递减，也暗示了例如殖民整个星系的动力将不存在的可能性，从而可能解释 Fermi 悖论的出现。此外，本文认为旧社会能够诞生出更强、更适应环境的超级人工智能，因为超级人工智能是可能的且适应性更强。最后还讨论了道德和目标如何影响生活和社会的有效方式，强调环境、文化和法律，以及以吃饭为例的阐述。附录中包含了快速殖民银河系的算法、在递减回报下合作与公平进化的模型，以及用于模拟信号发展的软件。还指出由于数学原因，不存在指数级的殖民或繁殖，因为每个实体占据一定的空间.

Apr, 2024

AI 对齐的社会选择：应对多样化的人类反馈

基金会模型的微调是为了避免不安全或有问题的行为，而利用人类反馈进行强化学习或采用宪法人工智能的方法，通过社会选择来处理潜在的人类意见分歧并影响模型的行为。

Apr, 2024

人工智能与人类互动及社会陷阱

通过引入贝叶斯框架，研究了与生成人工智能合作时可能出现的一种情况：用户可能会获得生产力的提高，但人工智能生成的内容可能无法完全符合他们的偏好。我们揭示了个体决策与人工智能训练之间的相互作用可能导致社会性挑战，输出结果可能变得更加同质化，特别是当人工智能基于人工智能生成的内容进行训练时。解决同质化和偏见问题的方法是改进人工智能与人类的交互，实现个性化输出而不损失生产力。

Sep, 2023