Feb, 2024

演进 AI 集体以增强人类多样性和实现自我调节功能

PDF
TL;DR大型语言模型根据其他人生成的文本来引导它们的行为。这种能力以及它们在在线环境中越来越普遍的存在预示着它们将有意或无意地 “编程” 彼此并形成新兴的人工智能主体性、关系和集体。在这里，我们呼吁研究界调查这些互动人工智能的 “类社会” 属性，以增加它们对人类社会和在线环境健康的回报并减少风险。我们使用一个简单的模型及其输出来说明这样的新兴分散型人工智能集体如何扩大人类多样性范围并降低在线毒性和反社交行为的风险。最后，我们讨论了人工智能自我调节的机会，并解决了与创建和维护分散型人工智能集体相关的道德问题和设计挑战。
发现论文，激发创造
  • 增强型人工智能集体智慧：现状与展望

    基于网络科学的多层人工智能与人类集体智能表征方式，探讨了人工智能与人类集体智能间的相互作用、多样性与互动对系统整体智能的影响，并分析了现实中的 AI 增强集体智能实例，最后讨论了 AI 增强集体智能面临的潜在挑战和未来发展方向。

    Mar, 2024

  • 出版文本的社会进化与大型语言模型的出现及其毒性与偏见问题

    AI 和深度学习的快速发展在大型语言模型中具有突破性的出现，这里提醒过度乐观的人关注毒性、偏见、记忆、奉承、逻辑不一致以及幻觉的存在，并指出人类智能只是一种规模放大的灵长类脑的案例。

    Feb, 2024

  • 社交人工智能及人工智能生态系统挑战

    本研究论文旨在借助复杂系统、网络科学和人工智能的交叉领域构建社交人工智能的基础，并探讨了社交人工智能领域中的主要问题、可能出现的技术和科学挑战，以及未来的研究方向。

    Jun, 2023

  • AI 对齐的社会选择：应对多样化的人类反馈

    基金会模型的微调是为了避免不安全或有问题的行为，而利用人类反馈进行强化学习或采用宪法人工智能的方法，通过社会选择来处理潜在的人类意见分歧并影响模型的行为。

    Apr, 2024

  • 通往类人工智能的社交之路

    通过证据的汇集，展示了自然智能是通过不同尺度的互动网络中的智能集体、社会关系和主要进化转变而产生的，这些过程通过种群压力、军备竞赛、马基雅维利选择、社会学习和积累文化等机制促进了新数据的产生，将这些机制整合到智能代理的视角中，表明通过持续的新数据生成实现类人复合创新的可能路径。

    May, 2024

  • 通信时代的人工智能交互：自噬使得大型模型达到局部最优解

    通过设计多模态数据集和三个实验，本研究调查了人类和大模型在通信中作为关键环节时的偏见和偏好。研究结果表明，合成信息更有可能被纳入模型训练数据集和传播，而人类生成的信息在传递过程中会被模型选择性地修改和遗失，这种现象在信息交流中造成了社会信息多样性的减少以及大模型性能的局部最优问题。

    Feb, 2024

  • 组织一种语言模型社会：结构和机制以促进集体智慧的提升

    通过将大型语言模型（LLMs）组织成以社区为基础的结构，该论文介绍了一种变革性方法，旨在增强 LLMs 的集体智能和问题解决能力。本文研究了不同的组织模型 - 分层、扁平、动态和联邦，每种模型都具有协作人工智能系统的独特优势和挑战。在这些结构化社区中，LLMs 被设计为专门从事不同的认知任务，采用直接通信、投票系统和基于市场的方法等先进的交互机制，并动态调整其治理结构以满足不断变化的需求。这种社区的实施对于提高人工智能的问题解决能力具有重大潜力，因此有必要深入研究其伦理考虑、管理策略和可扩展性。本文旨在为未来研究奠定基础，主张在人工智能研究和应用中从孤立到协同的运行框架进行范式转变。

    May, 2024

  • 协同构思中的增强集体智能：议程和挑战

    研究探讨使用增强的集体智能的应用，结合人类和大型语言模型在协同创意中的表现，进一步介绍了一个名为 Polis 的实时集合工具，并总结出三个挑战以期设计并完成实验。

    Mar, 2023

  • 深度学习时代的紧急多智能体交流

    研究表明，随着深度人工网络的感知、移动和规划能力的增强，研究人员正在研究它们是否也能发展出共享语言来相互交互，并探讨语言在深度代理人群体中演化及紧急特性的条件，这既有助于理解人类语言进化的过程，也可以让深度网络在日常生活中更加灵活和有用。本文概述了各角度最具代表性的语言演化研究。

    Jun, 2020

  • 面向教育的社交生成 AI：理论、实践和伦理

    本文探讨了与人工智能进行的教育交流，不是作为提示和回应的序列，而是作为对话和探索的社交过程，在其中，学习者在互联网工具和资源的动态计算介质中不断与 AI 语言模型交谈。本文强调了构建用于教育的社交生成 AI 是需要开发强大的 AI 系统的，这些系统可以与人类以及彼此对话，构建如知识地图之类的外部表征，访问和贡献于互联网资源，并担任教师、学习者、导师和指南的角色。但人们也需要考虑将如何设计和约束这些社交生成 AI，以确保其意识到其限制、对学习者和互联网的尊重并尊重人类教师和专家的完整性的问题。

    Jun, 2023