Dec, 2023

CERN 用于 AGI：自主模拟为基础的人工智能测试和对齐的理论框架

PDF
TL;DR本研究探讨了多学科方法在测试和调整人工通用智能（AGI）和 LLMs 方面的潜力。通过在虚拟现实框架中采用基于模拟的多智能体系统，模拟真实世界环境中的复杂社会结构和相互作用，通过应用社会学、社会心理学、计算机科学、物理学、生物学和经济学等领域的各种理论，展示了实现更具人类对齐和社会责任的 AGI 的可能性。该研究旨在为 AGI 的开发和改进做出贡献，强调社会、伦理和理论维度的整合以供未来研究参考。
multidisciplinary approachartificial general intelligencellmssimulation-based multi-agent systemdigital citizens
发现论文，激发创造
  • 将认知任务整合进针对大型模型的人工通用智能测试

    大型模型的性能评估是保证其能力和应用安全性的必要步骤，而当前的模型评估缺乏一个统一的框架来评估大型模型的多维智能。本文提出了一个全面的人工智能测试框架，包括认知科学和自然语言处理，旨在评估大型模型的智能水平，并通过一系列认知测试来指导其在不同智能维度上的改进和加速其融入人类社会的过程。

    Feb, 2024

  • 多智能体协作：发挥智能 LLM 代理的力量

    本文提出了一种通过多智能体系统来增强大型语言模型（LLMs）能力的新框架，并通过人工智能领域的案例研究展示了这一框架的实用性和多样性。

    Jun, 2023

  • OpenAGI: LLM 与领域专家的融合

    本文介绍了一种建立在大型语言模型基础之上，利用强化学习从任务反馈中提高模型任务解决能力的通用人工智能研究平台 OpenAGI，该平台旨在为测试和改进 AGI 的能力提供任务、数据集、评估指标和可扩展模型。

    Apr, 2023

  • 基于大型语言模型的游戏智能代理调查

    利用 LLMs 在复杂的电脑游戏环境中赋予游戏智能体人类般的决策能力，以推进人工智能 (AGI) 的发展，并提供了 LLM 基础的游戏智能体的综述，包括感知、记忆、思考、角色扮演、行动和学习的六个关键组成部分，调研了六种游戏类型的现有代表性 LLM 基础游戏智能体，并展望了未来的研究和发展方向。

    Apr, 2024

  • 元宇宙在校准具有实体的通用人工智能中的作用

    人体化人工通用智能（AGI）的概念、其与人类意识的关系以及元宇宙在促进这种关系中的关键作用被检验。它凭借体验认知、Michael Levin 的计算边界、Donald D. Hoffman 的感知界面理论和 Bernardo Kastrup 的分析唯心主义等理论框架来建立实现人体化 AGI 的论点。研究人员认为，我们所感知到的外部现实是内在存在的替代性符号化表达，而 AGI 可以体现具有更大计算边界的更高意识。论文进一步讨论了 AGI 的发展阶段、实现人体化 AGI 的要求、为 AGI 提供校准符号界面的重要性，以及元宇宙、分散系统、开源区块链技术和开源 AI 研究所扮演的关键角色。它还探讨了在元宇宙空间中 AGI 和人类用户之间的反馈循环作为 AGI 校准工具，以及实现稳定人体化 AGI 的先决条件的地方调节和分散治理的角色。该论文最后强调了实现人类关系的某种和谐和认识到全球人类之间的相互联系的重要性，作为实现稳定人体化 AGI 的关键先决条件。

    Feb, 2024

  • 探索基于大型语言模型的智能代理：定义、方法与前景

    对基于大型语言模型（LLM）的智能代理进行了深入调查，涵盖了单代理和多代理系统中的定义、研究框架、组成、认知和规划方法、工具利用、对环境反馈的响应，以及在多代理系统中部署 LLM-based 代理的机制，包括多角色协作、信息传递和缓解代理之间通信问题的策略，同时介绍了流行的数据集和应用场景，最后展望了基于 LLM 的代理在人工智能和自然语言处理领域的前景。

    Jan, 2024

  • 基于大语言模型的智能代理的崛起与潜力：一项调查

    人工智能代理是一个前景光明的领域，利用大型语言模型作为基础构建通用人工智能代理带来了显著的进展，其在单一代理场景、多代理场景以及人机合作中的广泛应用展示了卓越的潜力，并为人类社会提供了有价值的见解。

    Sep, 2023

  • 医疗人工智能之路：以最低成本统一领域特定的医疗 LLMs

    提出了 MedAGI 作为一个将领域特定的医学 LLM 统一起来的新兴范式，将自适应专家选择算法应用于解决由于缺少数据和保护隐私而导致的交叉培训挑战，并在皮肤科、X 光诊断和病理学图像分析领域进行了评估，结果表明 MedAGI 具有出色的通用性和可扩展性。

    Jun, 2023

  • 生成 AI vs. AGI：现代 LLM 的认知优势与劣势

    对交互式 LLM 作为认知系统的考虑，重点关注 2023 年左右的 LLMs（如 ChatGPT，GPT-4，Bard，Llama）。回顾了这些系统的认知优势，并着重关注这些 LLMs 与人类认知系统之间的实质性差异。研究发现，这些 AI 系统的许多实际缺陷可以与它们构建的基本认知架构的不足有关。作者认为，在实际情况下，通过渐进改进这些 LLMs 并不能实现朝人级通用人工智能迈进的目标。然而，这并不意味着研究和实验 LLMs 就没有助于了解人级通用人工智能，也不意味着 LLMs 不能作为整合其他思想的人级通用人工智能体系结构的重要组成部分。文章还简要提及了与 LLMs 相关的社会和伦理事项，说明虽然需要谨慎处理信息误导等问题，经济动荡也需要根据其不可预测的进程采取相应的社会纠正措施，但总体上，与现代 LLMs 相关的政策与如果已经有更可信的人级通用人工智能近似模型存在时的情况截然不同。

    Sep, 2023

  • MindAgent：新兴游戏互动

    我们提出了一种新型基础设施，名为 MindAgent，用于评估游戏交互中的规划和协调能力，并引入了新的游戏场景和相关基准，以评估多智能体协作效率。我们使用新的自动度量 CoS 进行全面评估。我们希望我们对大型语言语料库学习的 LLMs 以及用于通用调度和协调的新基础设施的发现能够揭示如何获取这些技能的一些见解。

    Sep, 2023