在最大规模的调查中，2778 名在顶级人工智能（AI）期刊发表过论文的研究人员对 AI 进展的速度、高级 AI 系统的性质和影响做出了预测。总体预测显示，到 2028 年，AI 系统有至少 50% 的机会实现几个里程碑，包括自主构建支付处理网站、创建一首无法与热门音乐家的新歌区分的歌曲，以及自主下载和微调大规模语言模型。如果科学持续稳定发展，到 2027 年，无需人类援助的机器在任何可能的任务上超越人类的机会被估计为 10%，到 2047 年概率达到 50%。然而，所有人类职业完全可自动化的机会预计将在 2037 年达到 10%，最迟到 2116 年达到 50%（相比于 2022 年调查的 2164 年）。大多数受访者对 AI 进展的长期价值表示了相当大的不确定性：虽然 68.3% 的人认为超人级 AI 有更多好的结局可能性，但在这些净乐观主义者中，48% 认为极坏的结果（如人类灭绝）至少有 5% 的机会，而 59% 的净悲观主义者给出了至少 5% 的机会，以至于产生极好的结果。在回答关于 AI 的六种不同情景（包括错误信息、权威控制和不平等等）是否应引起 “大量” 或 “极大” 关注的问题时，超过一半的受访者表示同意。关于快速或缓慢的 AI 进展对人类未来更好的观点存在分歧。然而，有广泛的共识认为应优先考虑旨在最小化 AI 系统潜在风险的研究。

Jan, 2024

本文预测了人工智能在网络安全领域中整合可能带来的新兴网络安全风险。

Dec, 2022

人工智能对人类构成的存在性风险以及立即风险的讨论之间的权衡问题存在不同意见。

Jul, 2023

本文介绍了人工智能领域自 20 世纪 50 年代以来的发展历程，列举了 AI 领域研究人员常见假设中的四个谬误，并讨论了这些谬误引发的问题，包括如何将人类的常识运用于机器智能。

Apr, 2021

人工智能的进展引起了人们对其潜在的巨大危害的关注，本文回顾了两个有影响力的论点，即人工智能可能带来灾难性风险的问题以及人工智能单点突破（Singularity Hypothesis）的讨论，同时总结了该争论的现状。

Jan, 2024

人工智能的发展将影响到现代生活的多个领域，如交通、医疗、金融、军事等，而机器学习研究人员普遍预测未来十年内 AI 将会超越人类在多个领域表现出更强的能力，同时认为它可能在未来四五十年内取代各种人类工作，这将对社会政策及未来发展趋势做出影响。

May, 2017

人类智能和人类增强的人工智能有着不同的激励，目前技术人员、商业和政策制定者都过分倾向于自动化，这种趋势可能导致失去经济权利和政治议价权，而研究开发人类增强的 AI 才有助于人类保持掌握营造价值的能力。

Jan, 2022

人工通用智能（AGI）尚不存在，但鉴于人工智能技术发展的速度，预计在未来大约二十年内将达到人类水平的智能水平。之后，许多专家预计它将远远超过人类智能，并且迅速超过。超级智能 AGI 的前景对人类构成了存亡风险，因为目前没有可靠的方法来确保 AGI 的目标与人类目标保持一致。作者借鉴公开可用的预测者和观点数据，考察专家和非专家对 AGI 风险的感知。研究结果表明，与其他存在风险相比，人们对 AGI 造成的世界灾难或灭绝的感知风险更大。与其他存在威胁相比，AGI 的感知风险在过去一年中增加的速度也更快（例如核战争或人为引起的气候变化）。专家和非专家一致认为 AGI 是一种紧迫的存亡风险，但目前对于这种共识的基础仍然不清楚。

Nov, 2023

本文简述了人工智能的近一个世纪发展历程，总结了发展趋势并发现了普遍规律，分析了过去失败和现在成功的原因，强调了哲学思维在理解和解决人工智能问题中的重要性以及重点发展方向应该是人机协作和以计算能力为核心的技术路径。

Mar, 2023

本文探讨了关于人工智能失控所带来的灾难性威胁的核心论点，论述了超级智能对人类的潜在生存危险，提出了深度学习中存在问题的因素，并预测到在 2070 年前此问题的发展将导致人类的终极灭亡。

Jun, 2022