Nov, 2023

人工智能水平：在通往人工智能通用水平的道路上实现进展

PDF
TL;DR我们提出了一个人工通用智能（AGI）模型及其前身的能力和行为分类框架，该框架引入了 AGI 性能、广泛性和自治程度的级别。希望这个框架类似于自动驾驶的级别，通过提供一个共同的语言来比较模型、评估风险并在 AGI 的道路上衡量进展。我们分析了现有的 AGI 定义，提炼出了一个有用的本体论所应具备的六个原则。这些原则包括关注能力而非机制；分别评估广泛性和性能；以及定义沿着 AGI 路径的阶段，而不是专注于终点。基于这些原则，我们提出了基于能力的 “AGI 级别”，并思考当前系统如何符合这个本体论。我们讨论了未来基准的挑战性要求，以便对这些级别的 AGI 模型的行为和能力进行量化。最后，我们讨论了这些 AGI 级别与自治和风险等部署考虑因素的相互作用，并强调了在负责任和安全地部署高度能力的 AI 系统时，谨慎选择人机交互范例的重要性。
artificial general intelligenceframeworklevels of agicapabilitiesgenerality
发现论文，激发创造
  • 我们离 AGI 还有多远

    人工智能的发展深刻影响了人类社会，并在多个领域取得了重大进展。然而，对人工智能的不断需求突显了其现有能力的局限性，推动了向人工通用智能（AGI）的发展。AGI 以其与人类智能相当的效率和有效性，具备执行多样化现实任务的能力，代表着人工智能演进的重要里程碑。本文通过广泛的调查、讨论和原创观点，深入探讨了接近 AGI 的关键问题及其实现所需的策略，不同于现有的综述文献。我们首先阐述了 AGI 的必要能力框架，整合了内部、界面和系统维度。由于实现 AGI 需要更先进的能力和严格的约束条件，我们进一步讨论了必要的 AGI 对齐技术，以协调这些因素。值得注意的是，我们强调通过首先定义 AGI 进展的关键级别来负责任地对待 AGI，然后评估现状的评价框架，并最终提出了达到 AGI 巅峰的路线图。此外，为了提供对 AI 整合的普遍影响的切实见解，我们概述了在多个领域实现 AGI 所面临的挑战和可能的途径。总之，作为对 AGI 当前状态和未来轨迹的先驱性探索，本文旨在促进研究人员和实践者之间的集体理解，并引发更广泛的公众讨论。

    May, 2024

  • 概念即是一切：通往通用人工智能的更直接路径

    自从 20 年前 AGI（人工通用智能）一词诞生以来，对其几乎没有取得可观的进展。尽管统计人工智能方面取得了极大突破，如 AlphaZero、ChatGPT 和 Stable Diffusion，但这些项目都没有明确的 AGI 路径。为了加快 AGI 的发展，了解和确定人类智能与 AGI 的核心要求至关重要。通过这样可以梳理出实现 AGI 所需的特定开发步骤以及哪些是分散注意力的因素。这种分析强调了对认知人工智能方法的需求，而不是目前受青睐的统计和生成式方法。具体而言，它确定了概念在类人认知中的核心角色。在这里，我们概述了一种架构和开发计划，以及一些初步结果，提供了一条更直接的实现全面人类级 AI（HLAI）/ AGI 的路径。

    Sep, 2023

  • 通过游戏来衡量智力

    作者讨论了如何测试普遍人工智能的智能程度，并提出了用游戏描述语言中游戏空间的抽样来扩展通用智能的概念以处理有限时间的中心思想。

    Sep, 2011

  • 将认知任务整合进针对大型模型的人工通用智能测试

    大型模型的性能评估是保证其能力和应用安全性的必要步骤，而当前的模型评估缺乏一个统一的框架来评估大型模型的多维智能。本文提出了一个全面的人工智能测试框架，包括认知科学和自然语言处理，旨在评估大型模型的智能水平，并通过一系列认知测试来指导其在不同智能维度上的改进和加速其融入人类社会的过程。

    Feb, 2024

  • AI 对所有实体类别的识别

    通过综合技术地图方法，对人工智能（AI）的最终实现时间进行了预测，该研究论文以本体学等六方面实体作为综合技术地图，探讨了人类实现人形 AI 的技术挑战和时间预测。

    Aug, 2022

  • 可证明安全系统：控制可达人工通用智能的唯一路径

    通过利用先进的人工智能进行形式验证和机械解释，我们描述了人类安全繁荣与强大人工通用智能（AGIs）共存的路径，并主张这是唯一能确保安全可控 AGI 的途径，提出了一系列能推动这个积极结果的挑战问题，并邀请读者一同参与这项工作。

    Sep, 2023

  • 为何我们尚未拥有通用人工智能

    人工通用智能（AGI）是构建 “思考机器” 的愿景，与 “狭义人工智能” 方法形成鲜明对比。本研究指出了纯统计方法无法实现 AGI，同时确定了实现类似人类适应能力和自主学习所需的关键认知能力，并总结了阻碍 AGI 进展的社会技术因素。

    Aug, 2023

  • 存在和感知作为 AGI（人工通用智能）的基础

    本文试图对 AGI 中的概念 “meaning” 和 “knowledge” 进行严格的规范化定义，以便在实际实现中能够在上下文中处理相关的认知概念。

    Jan, 2022

  • 分析人工通用智能的语境短板

    本文讨论了人工智能专家误解模仿游戏，将 HL-level Intelligence 视作人工智能发展的目标，认为 Access 和 Ingest data 是 AGI 发展的当前瓶颈，因此应该重新审视图灵测试，通过对比探讨人工智能和人类数据收集能力之间的差异，探索当前 AGI 缺乏的特征，并在此框架内讨论 AGI 发展的未来。

    Dec, 2022

  • 搜索通用人工智能的框架

    本文描述和统一引导开发通用人工智能的原则，这些原则围绕着智能是搜索问题通用解决方案的工具这一理念展开，同时提供建议以研究、测量和测试人类水平智能机器所需的各种技能和能力。

    Nov, 2016