前沿 AI 模型的安全性规范与公共安全风险需求有关。建立标准设置流程、注册报告需求以及合规机制是对前沿 AI 模型进行规范的必要步骤。产业自律是重要的第一步，但还需要社会广泛讨论和政府干预以确保规范的制定和遵循。将执法权力授予监管机构和颁发前沿 AI 模型许可制度等选项可实现该目标。本文提出一组初始的安全标准，包括进行部署前的风险评估、外部对模型行为的审查、使用风险评估来指导部署决策以及在部署后监控和响应关于模型能力与应用的新信息。希望本文能为如何平衡公共安全风险与 AI 开发前沿的创新受益的广泛讨论做出贡献。

Jul, 2023

提出了一个框架，将信息安全领域和安全开发生命周期的概念应用到人工智能系统的开发中，以解决公正度、可解释性和科技伦理等方面的问题。

Mar, 2022

本报告探讨了不同利益相关者所能采取的各种措施，以改善人工智能系统及其相关开发过程的安全性、公正性、隐私保护等方面的证明，分析了十种机制，并提出了旨在实施、探索或改进这些机制的建议。

Apr, 2020

本文提供了针对 National Security Commission on Artificial Intelligence (NSCAI) 关于负责任开发和部署人工智能的主要考虑因素的建议，重点在于要将 “负责任 AI” 作为常规而不是例外，并提供了一套可操作的框架来实现这一目标。

Jan, 2021

建议建立国际负责风险评估的 AI 联盟，以监管和规范快速发展的高级人工智能系统，缓解社会规模的风险，并推动负责任的扩展政策和协调的评估风险反应。

Oct, 2023

人工智能的应用不仅依赖基础研究和技术发展，更需要关注其公平性、透明度和隐私问题。为了确保 AI 的合理应用，我们需要制定技术、社会、制度和法律方法和工具，提高所有人的参与度和意识，确保 AI 系统与我们社会的原则和价值观一致。

May, 2022

本文探讨了人工智能技术的风险，并介绍了一种名为 AI 治理的框架，以确保人工智能的负责任使用，从而避免和减轻包括监管、合规性、声誉、用户信任、财务和社会风险在内的风险。

Nov, 2022

欧盟人工智能法案是一项基于风险的前瞻性监管方法，旨在预防某些有害结果，并提倡对数据质量和人工监督进行批判性检查；我们建议将责任视为主要监管机制，并区分潜在危害的内生和外生因素，通过合理分配开发者和使用者之间的责任来减轻风险。

Nov, 2023

AI - 基于安全关键系统（AI-SCS）在现实世界中的部署越来越多。降低风险是开发和运营中的首要任务。本文考虑了责任的不同方面（角色、道德、法律和因果关系），以及它们在 AI-SCS 安全背景下的应用。我们使用一个核心概念（演员（A）对事件（O）负责）来创建角色责任模型，从而产生了一种捕捉责任关系并澄清以前已知的责任问题的实用方法。通过对事故案例和基于 AI 的糖尿病并发症预测器的安全性分析，我们的主要目标是在安全性方面减少对操作员或开发人员的不公平或不成比例的责备。我们提出了进一步研究的讨论和方向。

Dec, 2023

本文研究了科学研究机构在负责人工智能设计和开发中的道德风险意识和准备情况，揭示了知识缺口和对可用人工智能伦理框架的意识有限。我们的研究结果显示，在没有适当的指导和管理下实施人工智能技术可能会带来潜在的道德风险，因此需要全面的策略来提高团队能力，支持负责、道德和包容的人工智能开发和部署。

Dec, 2023