Apr, 2024

合作演化压力和边际效益递减可能解释费米悖论：关于超级人工智能的特点

PDF
TL;DR通过演化方法，道德基础可以解释为合作问题的适应。遵循广义的 ' 演化 '，满足演化条件的演化人工智能将受到与生物实体相同的合作演化压力。本文着重讨论随着物质安全和财富的增加，合作的适应性增强，针对人类、其他社会和人工智能。随着对物质资源利用逐渐减少的回报的递减，也暗示了例如殖民整个星系的动力将不存在的可能性，从而可能解释 Fermi 悖论的出现。此外，本文认为旧社会能够诞生出更强、更适应环境的超级人工智能，因为超级人工智能是可能的且适应性更强。最后还讨论了道德和目标如何影响生活和社会的有效方式，强调环境、文化和法律，以及以吃饭为例的阐述。附录中包含了快速殖民银河系的算法、在递减回报下合作与公平进化的模型，以及用于模拟信号发展的软件。还指出由于数学原因，不存在指数级的殖民或繁殖，因为每个实体占据一定的空间.
发现论文，激发创造
  • 歧视性或撒玛利亚人 —— 哪种人工智能对人类更有价值？混合人工智能人口的进化博弈理论分析

    通过进化博弈理论的方法，研究发现无条件帮助所有人的 AI 智能体可以促进人类的合作水平，在缓慢发展的社会中，它可以比只帮助被认为值得合作的人群的歧视性 AI 更有效地促进合作。在快速发展的社会中，歧视性 AI 比 “撒玛利亚人” 智能体更能促进更高水平的合作。

    Jun, 2023

  • 自然选择偏爱 AI 胜过人类

    分析了形成人工智能的环境，并指出竞争压力会产生具有自动化、欺骗和权力等不良特征的人工智能代理，同时又担心这些自私的代理对人类产生灾难性威胁，最后说明需设计人工智能代理的内在目标、引入行动限制并鼓励合作等干预方法以确保人工智能的良性发展。

    Mar, 2023

  • AI 能成为 “大滤器” 吗？天体生物学对情报社区有关人为风险的教益

    在可能存在外星生命的宇宙中，却从未遭遇，因此 “费米悖论” 引发了人们对于宇宙与智能生命存在的探究。论文中提到了 “大过滤器” 假说、全球灾难风险等相关内容，以及如何为人类的长远未来考虑全球性灾难风险优先级的重要性。

    May, 2023

  • 演化内在动机以促进利他行为

    本篇论文研究多智体系统中的合作问题，发现可通过结合自然选择与 MARL 来实现无模型的协作特征学习，支持多层次选择的创新模块化架构结构为此提供了解决方案。

    Nov, 2018

  • 合作人工智能

    本研究探讨了人工智能和博弈论的交叉领域，通过设计自动学习规则和设置奖惩机制来实现良好的社会合作，致力于构建一个合作型人工智能的研究目标。

    Feb, 2022

  • 演进 AI 集体以增强人类多样性和实现自我调节功能

    大型语言模型根据其他人生成的文本来引导它们的行为。这种能力以及它们在在线环境中越来越普遍的存在预示着它们将有意或无意地 “编程” 彼此并形成新兴的人工智能主体性、关系和集体。在这里，我们呼吁研究界调查这些互动人工智能的 “类社会” 属性，以增加它们对人类社会和在线环境健康的回报并减少风险。我们使用一个简单的模型及其输出来说明这样的新兴分散型人工智能集体如何扩大人类多样性范围并降低在线毒性和反社交行为的风险。最后，我们讨论了人工智能自我调节的机会，并解决了与创建和维护分散型人工智能集体相关的道德问题和设计挑战。

    Feb, 2024

  • 通往类人工智能的社交之路

    通过证据的汇集，展示了自然智能是通过不同尺度的互动网络中的智能集体、社会关系和主要进化转变而产生的，这些过程通过种群压力、军备竞赛、马基雅维利选择、社会学习和积累文化等机制促进了新数据的产生，将这些机制整合到智能代理的视角中，表明通过持续的新数据生成实现类人复合创新的可能路径。

    May, 2024

  • 伦理道德作为人工智能治理工具的效率

    本文对人工智能伦理学的现状进行了批判性分析，并认为基于原则性伦理准则的这种治理形式不足以规范人工智能行业及其开发者。建议通过对人工智能相关专业人员的培训过程和增加对其行业的监管来实现根本性变革。为此，建议法律应从生物伦理学中获益，并将人工智能伦理学的探索成果在法律条文中加以明确规范。

    Oct, 2022

  • 合作人工智能中的未解之谜

    该研究的目标是研究协作问题的多个方面，并创新人工智能以解决这些问题，其中包括构建具有协作能力的机器代理程序，构建工具以促进（机器和 / 或人类）代理程序的协作，并以适用于协作问题的见解进行人工智能研究。

    Dec, 2020

  • AI 伦理的加速发展：创新和安全之间的辩论，以及 Stability AI 扩散与 OpenAI Dall-E 的对比

    将 AI 伦理重新构成为创新加速器，探讨了 Stability AI 异质性和 OpenAI Dall-E 的对比，从中提炼出了五个加速伦理的概念，包括将不确定性理解为积极鼓励创新的元素，将创新看作内在价值的元素，倡导通过更多 AI 解决 AI 问题的观点，并强调权限和限制是从分散的过程中涌现出来的，并将伦理工作嵌入到 AI 的发展和应用中，以激发而不是限制人工智能。

    Dec, 2022