通过游戏来衡量智力
这篇论文综述了人工通用智能在教育领域的概念、能力、以及可能性,包括设定教育目标、设计教学法、课程以及评估。此外,也讨论了 AGI 在教育中所面临的各种伦理问题,以及人工通用智能如何影响人类教育工作者。该领域的进展需要教育工作者和 AI 工程师之间的跨学科合作。
Apr, 2023
本文旨在建立对 AGI 定义的共识,智能通常是指根据特定原则在有限资源下适应开放环境的能力,并强调适应或学习是智能的不可或缺特性,并将争议的部分置于智能的原则中,从不同视角对其进行描述。
Apr, 2024
大型模型的性能评估是保证其能力和应用安全性的必要步骤,而当前的模型评估缺乏一个统一的框架来评估大型模型的多维智能。本文提出了一个全面的人工智能测试框架,包括认知科学和自然语言处理,旨在评估大型模型的智能水平,并通过一系列认知测试来指导其在不同智能维度上的改进和加速其融入人类社会的过程。
Feb, 2024
本文提出了一种名为 “人工开放世界” 的评估方法,旨在解决开发者经验陷阱问题,该方法通过创建一个人工世界,以一种类似实际世界的方式生成问题并提出度量标准来量化研究进展。
Jun, 2022
人工智能的发展深刻影响了人类社会,并在多个领域取得了重大进展。然而,对人工智能的不断需求突显了其现有能力的局限性,推动了向人工通用智能(AGI)的发展。AGI 以其与人类智能相当的效率和有效性,具备执行多样化现实任务的能力,代表着人工智能演进的重要里程碑。本文通过广泛的调查、讨论和原创观点,深入探讨了接近 AGI 的关键问题及其实现所需的策略,不同于现有的综述文献。我们首先阐述了 AGI 的必要能力框架,整合了内部、界面和系统维度。由于实现 AGI 需要更先进的能力和严格的约束条件,我们进一步讨论了必要的 AGI 对齐技术,以协调这些因素。值得注意的是,我们强调通过首先定义 AGI 进展的关键级别来负责任地对待 AGI,然后评估现状的评价框架,并最终提出了达到 AGI 巅峰的路线图。此外,为了提供对 AI 整合的普遍影响的切实见解,我们概述了在多个领域实现 AGI 所面临的挑战和可能的途径。总之,作为对 AGI 当前状态和未来轨迹的先驱性探索,本文旨在促进研究人员和实践者之间的集体理解,并引发更广泛的公众讨论。
May, 2024
人工通用智能(AGI)是构建 “思考机器” 的愿景,与 “狭义人工智能” 方法形成鲜明对比。本研究指出了纯统计方法无法实现 AGI,同时确定了实现类似人类适应能力和自主学习所需的关键认知能力,并总结了阻碍 AGI 进展的社会技术因素。
Aug, 2023
该篇文章从 AGI 的角度提供了大脑启发型人工智能的综合概述,包括当前大脑启发型 AI 的进展和其与 AGI 的广泛联系、人类智能和 AGI 的重要特征、实现 AGI 的重要技术以及 AGI 系统的演进,同时探讨了 AGI 的局限性和未来。
Mar, 2023
我们提出了一个人工通用智能(AGI)模型及其前身的能力和行为分类框架,该框架引入了 AGI 性能、广泛性和自治程度的级别。希望这个框架类似于自动驾驶的级别,通过提供一个共同的语言来比较模型、评估风险并在 AGI 的道路上衡量进展。我们分析了现有的 AGI 定义,提炼出了一个有用的本体论所应具备的六个原则。这些原则包括关注能力而非机制;分别评估广泛性和性能;以及定义沿着 AGI 路径的阶段,而不是专注于终点。基于这些原则,我们提出了基于能力的 “AGI 级别”,并思考当前系统如何符合这个本体论。我们讨论了未来基准的挑战性要求,以便对这些级别的 AGI 模型的行为和能力进行量化。最后,我们讨论了这些 AGI 级别与自治和风险等部署考虑因素的相互作用,并强调了在负责任和安全地部署高度能力的 AI 系统时,谨慎选择人机交互范例的重要性。
Nov, 2023
本文讨论了人工智能专家误解模仿游戏,将 HL-level Intelligence 视作人工智能发展的目标,认为 Access 和 Ingest data 是 AGI 发展的当前瓶颈,因此应该重新审视图灵测试,通过对比探讨人工智能和人类数据收集能力之间的差异,探索当前 AGI 缺乏的特征,并在此框架内讨论 AGI 发展的未来。
Dec, 2022
提出一种基于经验的理论框架,称为 “实用弱点原则”,用于处理认知科学和人工智能中的主观性问题,并将其与 AIXI 进行比较,显示出在弱点最大化的情况下会取得最优的行为结果。
May, 2022