Jan, 2024
AI 未来上的数千名 AI 作者
Thousands of AI Authors on the Future of AI
Katja Grace, Harlan Stewart, Julia Fabienne Sandkühler, Stephen Thomas, Ben Weinstein-Raun...
TL;DR在最大规模的调查中，2778 名在顶级人工智能（AI）期刊发表过论文的研究人员对 AI 进展的速度、高级 AI 系统的性质和影响做出了预测。总体预测显示，到 2028 年，AI 系统有至少 50% 的机会实现几个里程碑，包括自主构建支付处理网站、创建一首无法与热门音乐家的新歌区分的歌曲，以及自主下载和微调大规模语言模型。如果科学持续稳定发展，到 2027 年，无需人类援助的机器在任何可能的任务上超越人类的机会被估计为 10%，到 2047 年概率达到 50%。然而，所有人类职业完全可自动化的机会预计将在 2037 年达到 10%，最迟到 2116 年达到 50%（相比于 2022 年调查的 2164 年）。大多数受访者对 AI 进展的长期价值表示了相当大的不确定性：虽然 68.3% 的人认为超人级 AI 有更多好的结局可能性，但在这些净乐观主义者中，48% 认为极坏的结果（如人类灭绝）至少有 5% 的机会，而 59% 的净悲观主义者给出了至少 5% 的机会，以至于产生极好的结果。在回答关于 AI 的六种不同情景（包括错误信息、权威控制和不平等等）是否应引起 “大量” 或 “极大” 关注的问题时，超过一半的受访者表示同意。关于快速或缓慢的 AI 进展对人类未来更好的观点存在分歧。然而，有广泛的共识认为应优先考虑旨在最小化 AI 系统潜在风险的研究。