在监控技术领域，特别是人脸识别技术中，本研究对国家标准与技术研究院的人工智能风险管理框架（NIST AI RMF）的应用和影响进行了深入分析。通过案例研究，论文展示了 NIST AI RMF 在识别和减轻这些技术中可能被忽视的风险方面的实用性。我们的主要目标是制定一套面向监控技术的综合风险管理策略，以可行、可扩展的方式推进负责任的人工智能利用实践。此过程强调持续评估和改进，以帮助公司更加有力地管理与人工智能相关的风险，并确保道德和负责任地部署人工智能系统。此外，我们的分析揭示并讨论了国家标准与技术研究院的人工智能风险管理框架目前存在的关键缺陷，特别是在监控技术应用方面。这些洞察为人工智能治理和风险管理的讨论做出了贡献，突出了 NIST AI RMF 等框架未来改进和发展的方向。

Mar, 2024

当前人工智能技术缺乏管理长尾风险的系统性讨论，而过多提升其智能和能力可能导致比人类更强大的系统从而带来生存威胁；本文提供了分析人工智能灾难性风险的指南包括如何在今天保持系统的安全、在未来影响人工智能系统安全的策略以及平衡安全和通用性的方法。

Jun, 2022

该研究论文通过对 EU AI 法案规定的技术文档的深入分析，以 AI 风险管理为重点，提出了 AI 卡作为一种新颖的综合框架，通过人机可读的格式来表示 AI 系统的预期用途，以实现透明性、可理解性和互操作性，为法律合规性和一致性评估任务提供了自动化工具的开发能力。

Jun, 2024

通过使用一种多部分检查表的框架，我们展示了如何高效地评估海上自主系统的人工智能安全，并揭示其中的多个漏洞，从中毒到对抗性补丁攻击。通过系统化的人工智能红队行动，我们可以防止与提高对使命关键人工智能的接受和依赖性相应的严重事件。

Dec, 2023

本文使用分层复杂系统框架对人工智能（AI）风险进行建模，并从公共和私营领域的领域专家收集调查数据以分类 AI 影响和可能性，结果显示强大的 AI 代理情景有更多不确定性，对 AI 对齐失败和影响寻求行为的关注增加以及对多智能体环境的信心增强。

Nov, 2022

人工智能领域的最新进展建立了解决具有挑战性任务的基础，然而，与人工智能的集成带来了新的风险，因此为了从其优势中受益，必须充分应对与人工智能相关的风险。本文介绍了 AI 危害管理（AIHM）框架，提供了一个结构化的过程，以系统地识别、评估和处理 AI 危害。建议的过程与开发同时进行，以确保任何 AI 危害都能在 AI 系统生命周期的最早阶段捕捉到。此外，为了确保 AI 系统的可审计性，提出的框架系统地记录证据，表明已经减少了识别出的 AI 危害的潜在影响到可容忍水平的程度。该框架基于来自综合的最新分析的 AI 危害列表，并提供了一个支持识别出的 AI 危害的最佳处理方式的分类方法。此外，我们举例说明了 AIHM 框架如何通过系统地降低识别的危害对电网 AI 用例的总体质量产生积极影响。

Oct, 2023

本文介绍了美国国家标准与技术研究所（NIST）人工智能风险管理框架，提出了针对潜在误用和滥用、人权损害、灾难性风险等方面的风险识别和管理建议，并给出了对于更为多样化、通用化的人工智能的监管方案。

Jun, 2022

建议建立国际负责风险评估的 AI 联盟，以监管和规范快速发展的高级人工智能系统，缓解社会规模的风险，并推动负责任的扩展政策和协调的评估风险反应。

Oct, 2023

本文介绍了一种算法审计框架，可支持人工智能系统从开发到部署的全生命周期，以评估决策的符合情况并通过确保审计的完整性来填补开发和部署大规模人工智能系统的问责制鸿沟。

Jan, 2020

介绍了通过执行全面的 AI 生命周期治理来降低人工智能风险的最佳方法，定量评估现有模型的风险可以类比于如何评估已经建造的房屋的能源效率或医生根据一系列测试评估整体患者健康状况，本文探讨了这一思路，并讨论了这种方法如何改善 AI 的监管。

Sep, 2022