泛人工智能与人类的互动达到了前所未有的规模，为巨大的积极影响提供了新途径，但也引发了广泛关注，担忧其对个体和社会可能造成的伤害。本文中，我们认为，对这些人工智能技术的有意义的安全保证只能通过思考人工智能输出与人类行为之间形成的反馈循环如何推动交互走向不同结果来实现。为此，我们设想了从控制论到人类中心的人工智能安全的快速增长能力之间的高价值契机，为未来几十年的人类中心人工智能安全奠定了新基础。

May, 2024

高级 AI 模型的安全性和责任评估是研究和实践的一个关键但发展中的领域。该报告总结了 Google DeepMind 在高级 AI 模型的开发中创新并应用了一系列广泛的安全评估方法，并分享了其演变过程中的方法以及从中得出的教训。

Apr, 2024

该研究提出了一个 AI 系统评估的框架，包括协调术语、鉴定要素和建立映射，以促进跨学科的合作和综合评估。

Apr, 2024

本文提出了评估生成 AI 系统社会影响的标准方法与分类，并基于技术系统和社会分别探讨了七种与五个大类共计 21 个社会影响类别，并提出了对现有评估的限制进行分析的建议，并为 AI 研究社区建立了一个评估存储库来贡献现有的评估。

Jun, 2023

本章提出了七个防止人工智能系统造成伤害的课程，探讨了系统安全领域的见解，针对公共机构及基础设施中的新应用程序引发的新危害，阐述了诊断和消除新人工智能系统危害的共识缺失，并探讨了有效人工智能管理所需的跨学科方法和共享语言。

Feb, 2022

通过世界模型、安全规范和验证器的相互作用，提出了一系列保证安全的人工智能（AI）方法，旨在为 AI 系统提供高保证的量化安全保证，并描述了核心技术挑战和潜在解决方案。

May, 2024

鲁棒的访问可信信息是社会的一个重要需求，涉及知识生产、公共健康教育和促进民主社会中公民明智决策。生成型 AI 技术可能为访问信息和提高现有信息检索系统的效果提供新途径，但我们才刚开始理解和应对其长期社会影响的问题，本章概述了在信息访问背景下使用生成型 AI 的一些系统性后果和风险，并提供评估和缓解建议，讨论了未来研究的挑战。

May, 2024

AI 安全的概念在社会中日益普及，AI 社区越来越关注 AI Safety 的概念，即防止在 AI 部署过程中系统行为意外偏离设计意图而导致的故障。通过分析真实案例，我们展示了当前的词汇虽然能够涵盖 AI 部署中遇到的一系列问题，但仍需要一个扩展的社会技术框架来更好地理解 AI 系统和实施的安全机制在现实生活中的成功与失败。

Dec, 2023

这项研究综合了当前和未来的人工智能应用所面临的伦理问题，从技术和社会角度对 AI 部署中的公平性、隐私和数据保护、透明度与可解释性等伦理原则进行了综述。

Nov, 2023

AI 系统的安全性是一个重要的考量，因此作者提出了一个结构化的理由框架，包含四个类别的论证，以证明 AI 系统在训练和部署过程中不太可能引发灾难，并提到控制措施的强度、即使可能造成伤害也是可信的、以及可信的 AI 顾问的权威等内容。

Mar, 2024