人工智能可能会超越人类，然而，如果不采取措施，其可能学会不符合人类期望的目标，并使用追求权力的策略，导致人类无法控制其行为。因此，该研究概述了该问题及其研究方向。

Aug, 2022

通过解决大规模模型的局限性以及利用现有技术，本文提出解决方案，进而解决大规模模型固有的缺陷，逐步实现真正的人工智能通用智能。

Aug, 2023

人工智能的发展深刻影响了人类社会，并在多个领域取得了重大进展。然而，对人工智能的不断需求突显了其现有能力的局限性，推动了向人工通用智能（AGI）的发展。AGI 以其与人类智能相当的效率和有效性，具备执行多样化现实任务的能力，代表着人工智能演进的重要里程碑。本文通过广泛的调查、讨论和原创观点，深入探讨了接近 AGI 的关键问题及其实现所需的策略，不同于现有的综述文献。我们首先阐述了 AGI 的必要能力框架，整合了内部、界面和系统维度。由于实现 AGI 需要更先进的能力和严格的约束条件，我们进一步讨论了必要的 AGI 对齐技术，以协调这些因素。值得注意的是，我们强调通过首先定义 AGI 进展的关键级别来负责任地对待 AGI，然后评估现状的评价框架，并最终提出了达到 AGI 巅峰的路线图。此外，为了提供对 AI 整合的普遍影响的切实见解，我们概述了在多个领域实现 AGI 所面临的挑战和可能的途径。总之，作为对 AGI 当前状态和未来轨迹的先驱性探索，本文旨在促进研究人员和实践者之间的集体理解，并引发更广泛的公众讨论。

May, 2024

该论文探讨了人工智能的发展带来的挑战，提出了在系统、架构和安全方面的研究方向，以解决 AI 技术存储和处理数据量的限制，并提高数据隐私保护，以便这一技术能够更好地改善人们的生活和社会。

Dec, 2017

分析了达到人工智能的几种方法，并得出综合认知结构是最有前途的方法，因为人类大脑模拟需要未来的技术支持，而综合认知结构具有较低的计算要求和合适的普适性。

Jan, 2022

通过利用先进的人工智能进行形式验证和机械解释，我们描述了人类安全繁荣与强大人工通用智能（AGIs）共存的路径，并主张这是唯一能确保安全可控 AGI 的途径，提出了一系列能推动这个积极结果的挑战问题，并邀请读者一同参与这项工作。

Sep, 2023

人工通用智能（AGI）是构建 “思考机器” 的愿景，与 “狭义人工智能” 方法形成鲜明对比。本研究指出了纯统计方法无法实现 AGI，同时确定了实现类似人类适应能力和自主学习所需的关键认知能力，并总结了阻碍 AGI 进展的社会技术因素。

Aug, 2023

自从 20 年前 AGI（人工通用智能）一词诞生以来，对其几乎没有取得可观的进展。尽管统计人工智能方面取得了极大突破，如 AlphaZero、ChatGPT 和 Stable Diffusion，但这些项目都没有明确的 AGI 路径。为了加快 AGI 的发展，了解和确定人类智能与 AGI 的核心要求至关重要。通过这样可以梳理出实现 AGI 所需的特定开发步骤以及哪些是分散注意力的因素。这种分析强调了对认知人工智能方法的需求，而不是目前受青睐的统计和生成式方法。具体而言，它确定了概念在类人认知中的核心角色。在这里，我们概述了一种架构和开发计划，以及一些初步结果，提供了一条更直接的实现全面人类级 AI（HLAI）/ AGI 的路径。

Sep, 2023

本文主要讨论随着人工智能的广泛应用，如何确保人工智能系统追求我们想要其追求的目标，区分直接对齐问题和社会对齐问题，并分析了不同解决方案。其中，直接对齐问题解决方法主要集中在更强大的实现；而社会对齐问题通常由于个人和群体层面目标之间的冲突而产生，因此需要强调人工智能治理以解决冲突，并同时执行现有规范并设计适用于人工智能系统的新规范。

May, 2022

通过结合经典人工智能技术 —— 专家系统与现代适应性梯度下降训练的专家系统（GDTES），利用生成式人工智能（GAI）创建网络和训练数据集的机制，本研究提出了一种人工智能的学习和发展推理路径以在先验未知领域做决策的方法，并展示了朝着产生人工通用智能（AGI）的目标迈出的小步骤。

Jun, 2024