existential risks | BriefGPT

关键词existential risks

搜索结果 - 8

人工智能带来的灭绝风险：科学视角的盲点？
对于人工智能的存在风险进行讨论，提出了灭绝级古哈特定律的概念，即 “几乎任何目标规定，如果被极端追求，将导致人类的灭绝”，并旨在研究哪些形式模型适合探究这一假设。我们明确指出对于灭绝级古哈特定律是否成立我们持中立态度。作为我们的关键贡献，我
PDF5 months ago
两种类型的人工智能存在风险：决定性和累积性
这篇论文对比了传统的 “决定性人工智能风险假设” 和 “累积人工智能风险假设”，指出通过逐渐积累关键的人工智能引发的威胁，如严重漏洞和经济政治结构的系统侵蚀，逐渐形成灾难。通过对系统进行分析，提出了累积观点能够调和看似不相容的对人工智能风险
PDF6 months ago
AI 通过不准确的追求权力存在潜在风险的证据回顾
人工智能的快速发展引发了专家、决策者和世界领袖的担忧，关于越来越先进的人工智能系统可能造成的存在风险，这篇论文通过研究规范游戏、目标误归纳和寻求权力来审查关于人工智能存在风险的证据。该论文发现目前的证据状况令人担忧但不确定，关于存在极端的不
PDF8 months ago
跨国 AGI 联盟（MAGIC）：关于人工智能国际协调的建议
提出了一个多国人工智能综合体（MAGIC），通过全球停火令限制其他高级人工智能开发，以减轻来自先进人工智能的存在风险。
PDF9 months ago
自然与机器
人工智能对人类构成的存在性风险以及立即风险的讨论之间的权衡问题存在不同意见。
PDFa year ago
当前和短期 AI 作为潜在的存在风险因素
探讨人工智能对社会政治和人类作为一个整体的影响，提出存在某些已记录的 AI 影响可以成为存在风险因素，强调 AI 对权力动态和信息安全的影响，揭示了 AI 系统对不存在假设未来 AI 能力的存在风险的因果路径。
PDF2 years ago
AI 研究的 X 风险分析
当前人工智能技术缺乏管理长尾风险的系统性讨论，而过多提升其智能和能力可能导致比人类更强大的系统从而带来生存威胁；本文提供了分析人工智能灾难性风险的指南包括如何在今天保持系统的安全、在未来影响人工智能系统安全的策略以及平衡安全和通用性的方法。
PDF2 years ago
AI 研究中的人类存在安全考虑（ARCHES）
通过介绍 AI 的 prepotence 特性，分析 AI 在未来可能存在的 existential risks，并通过技术研究指导原则，提出潜在的研究方向，以促进 existential safety 的保障。
PDF4 years ago