提出了一个上下文敏感的机器学习系统风险框架（MLSR），该框架用于识别机器学习系统的一阶和二阶风险，包括应用、设计、控制等，并将伦理 / 人权风险与系统风险结合起来，为机器学习系统进行全面的风险评估铺平了道路。

Apr, 2022

该研究提出了一个综合评估机器学习系统可靠性的方法，侧重考虑诸如敌对攻击、性能下降以及算法技术等方面的问题，并对 500 多个模型进行了分析，为未来的研究和发展提供了指导。

Jul, 2023

我们提出了一个框架来自动化测量大型语言模型（LLMs）和相关产品与服务的负责任人工智能（RAI）指标。该框架基于现有的技术和社会技术专业知识，并利用了最先进的 LLMs（如 GPT-4）的能力来自动测量 LLMs 可能违反一系列 RAI 相关原则的伤害。该框架可以与领域特定的社会技术专业知识结合使用，以针对未来的新伤害领域创建测量。通过实施该框架，我们旨在推动更高级的伤害测量工作，并进一步促进 LLMs 的负责任使用。

Oct, 2023

利用机器学习模型分析社会经济因素，预测可能成为网络攻击受害者的个人，并通过关联规则和真实世界数据评估框架的有效性。

Mar, 2024

该研究提供了一个网络安全风险分析框架来评估带有人工智能组件的系统，以满足欧盟人工智能法、NIST 人工智能风险管理框架以及相关规范的要求，并使用自动驾驶系统的示例进行说明。

Jan, 2024

提出了一个基于机器学习的软件组件开发安全成熟度模型，将安全实践沿着机器学习开发生命周期组织起来，并为每个实践建立了三个成熟度水平以促进产业与学术界之间更紧密的合作。

Jun, 2023

在监控技术领域，特别是人脸识别技术中，本研究对国家标准与技术研究院的人工智能风险管理框架（NIST AI RMF）的应用和影响进行了深入分析。通过案例研究，论文展示了 NIST AI RMF 在识别和减轻这些技术中可能被忽视的风险方面的实用性。我们的主要目标是制定一套面向监控技术的综合风险管理策略，以可行、可扩展的方式推进负责任的人工智能利用实践。此过程强调持续评估和改进，以帮助公司更加有力地管理与人工智能相关的风险，并确保道德和负责任地部署人工智能系统。此外，我们的分析揭示并讨论了国家标准与技术研究院的人工智能风险管理框架目前存在的关键缺陷，特别是在监控技术应用方面。这些洞察为人工智能治理和风险管理的讨论做出了贡献，突出了 NIST AI RMF 等框架未来改进和发展的方向。

Mar, 2024

本文分析了机器学习在汽车驾驶辅助和自动化操作中使用的安全认证方面的适用性，在 ISO 26262 安全生命周期中使用 ML 作为实现方法的影响，并提出了一组建议，以适应 ML 的标准。

Sep, 2017

ML-On-Rails 是一个旨在保护机器学习模型、建立不同机器学习任务的明确定义的终端接口，并促进机器学习供应商和软件工程师之间的清晰沟通的协议，通过融合检测能力来增强机器学习模型的健壮性，并通过在 MoveReminder 应用的真实案例研究中对 ML-On-Rails 协议进行评估，强调了在生产环境中保护机器学习模型的重要性。

Jan, 2024

ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

Nov, 2016