介绍了通过执行全面的 AI 生命周期治理来降低人工智能风险的最佳方法，定量评估现有模型的风险可以类比于如何评估已经建造的房屋的能源效率或医生根据一系列测试评估整体患者健康状况，本文探讨了这一思路，并讨论了这种方法如何改善 AI 的监管。

Sep, 2022

本研究提出了一种基于风险感知的元层决策框架来平衡本地和全局勘探的权衡，将覆盖计划者的传统层次结构建立在元层决策制定的基础上，利用环境历史、可通过性风险和运动动力学约束等信息来决定本地和全局决策之间的转换，进而提高大规模环境勘探的效率。

Sep, 2022

该研究论文提出了一个基于任务要求的自主评估框架，可以用来量化自主功能，并为自主系统的开发者和用户提供了监控完整性的手段和共同语言。

Nov, 2023

本文介绍了如何通过风险意识的人类行为模型来安全、高效地进行机器人技术和人类的协同作业过程，旨在预测和规划人类常常表现出的非最优行为。

Jan, 2020

提出了一个分布框架，用于评估基础模型的社会技术风险，并通过量化统计显著性进行考量。利用基于实际随机变量的一阶和二阶随机优势的新统计相对测试，与在选择备选方案时平衡风险和效用常用的均值 - 风险模型建立联系。采用这个框架，我们正式发展了一个基于风险意识的基础模型选择方法，给定由指定指标量化的约束。受数学金融中的投资组合优化和选择理论的启发，我们为每个模型定义了一个 “指标组合” 作为聚合指标的方法，并基于这些组合的随机优势进行模型选择。我们的测试的统计显著性在理论上得到支持，通过中心极限定理的渐近分析并在实践中通过自助方差估计来实例化。我们使用这个框架来比较各种大型语言模型，针对偏离指令和输出有害内容的风险进行评估。

Oct, 2023

本文提出了一种基于样本的方法来解决固有于自主系统中变化环境的风险问题，能够生成高置信度的验证声明和快速合成保证实现最低系统性能的风险感知策略，并在仿真中验证了一种多主体协作系统和其风险感知控制器的优越性能。

Apr, 2022

本文针对 AI - 机器人系统中的安全问题进行了综合调查和分类，考虑了攻击面、伦理和法律问题以及人机交互安全等领域，旨在提供对这些领域的整体理解以增强 AI - 机器人系统的安全性。

Oct, 2023

使用机器学习模型在许多与安全和安全性相关的应用中，重要的是衡量使用机器学习的系统的安全性。本文关注机器学习领域，特别是自动驾驶车辆的安全性。为此，将描述、实施和评估一个技术框架，通过案例研究来使用 ISO/IEC 27004:2016 中的风险指标来衡量和评估损害程度和攻击者所需的努力。不过，无法确定一个单一的风险值来代表攻击者的努力，因此需要单独解释四个不同的值。

Jun, 2024

当前人工智能技术缺乏管理长尾风险的系统性讨论，而过多提升其智能和能力可能导致比人类更强大的系统从而带来生存威胁；本文提供了分析人工智能灾难性风险的指南包括如何在今天保持系统的安全、在未来影响人工智能系统安全的策略以及平衡安全和通用性的方法。

Jun, 2022

本文介绍了一种基于 CVaR 的多边形无人机任务卸载决策方法，它利用深度强化学习技术，以及开发一个智能农场物联网环境中 MEC 协同的无人机网络。结果表明，所提出的 CVaR 方法成功地将风险量化，并能训练强化学习智能体避免可能引发农场不可逆后果的高风险行为，这是传统方法所不具备的。

Feb, 2023