Jan, 2024

来见证：关于网络物理系统安全保障的一些观点

PDF
TL;DR通过探讨与保障支持因为设计而参数要求（例如安全性、安全性和可靠性）的合规性的确证缺陷检测、模式依赖以改善确证方案结构、改进现有确证方案符号以及（半）自动化确证方案生成等方面的挑战，提出了一些可能的解决方向。
cyber-physical systemsassurance casessafetysecurityreliability
发现论文，激发创造
  • 基于原则的 AI 和自主系统伦理保证论证

    该研究论文提出了一种基于四个核心道德原则的框架 - 一个伦理保证论证模式 - 来结构化系统化地推理出在特定情境下使用给定的人工智能 / 自主系统的道德可接受性，以此来扩展和应用保证论证方法，从而获得使用 AI 和自主系统时的可接受道德保证。

    Mar, 2022

  • 一份针对黑盒验证物理网络安全的算法综述

    本研究针对安全关键应用领域，提出了针对 CPS 系统进行模拟测试的安全验证技术。文中归纳了针对优化、路径规划、强化学习和重要性采样等技术进行的算法改进，并介绍了用于应对 CPS 软硬件状态空间巨大的问题分解技术。此外，本研究对自动驾驶汽车和飞行器防撞系统等领域的安全验证工具进行了总结。

    May, 2020

  • 从操作测试中评估安全关键系统：自动驾驶汽车研究

    使用保守贝叶斯推断方法，探讨从技术层面如何评估自动驾驶系统，维护其高可靠性和安全性。

    Aug, 2020

  • 安全案例：为先进人工智能系统提供安全证明

    AI 系统的安全性是一个重要的考量，因此作者提出了一个结构化的理由框架，包含四个类别的论证，以证明 AI 系统在训练和部署过程中不太可能引发灾难，并提到控制措施的强度、即使可能造成伤害也是可信的、以及可信的 AI 顾问的权威等内容。

    Mar, 2024

  • 开放自主安全案例框架

    基于自动驾驶车辆行业多年的工作，本文介绍了开放自治安全案例框架作为如何安全和负责任地部署自动驾驶车辆的指导路线。

    Apr, 2024

  • 使用大型语言模型进行测试学习能力的网络物理系统：一种形式化方法

    通过检查以测试为基础的验证和验证作为最实用的方法，并总结当前先进的方法学，在确保学习能力的 CPS 的形式安全方面，确定了当前测试方法的局限性，并提出了从基础概率测试过渡到更严格方法的路线图，以提供正式保证。

    Nov, 2023

  • 重新定义自动驾驶车辆的安全性

    在部署自动驾驶车辆并获得实践经验后，有必要重新审视现有的计算机系统安全的定义和相关概念框架。当前工业安全标准所使用的术语强调对具体识别出的风险进行缓解，并假设基于人类监督的车辆操作。然而，无人驾驶模式极大地增加了安全问题的范围，特别是在开放环境中的操作，自我强制操作限制的要求，参与到自发的社会技术系统中，以及遵守法律和道德约束的要求。现有标准和术语只局部地应对了这些新挑战。我们提出了基于核心系统安全概念的更新定义，以涵盖这些额外的考虑，作为针对这些额外安全挑战不断进化的安全方法的起点。这些结果还可以为其他自主系统应用提供安全术语的构建提供指导。

    Apr, 2024

  • 针对学习型医疗智能物理系统开展安全保障案例的探索

    本文提供了一个机器学习（ML）控制器在学习式医疗物理系统（MCPS）中的安全保障方案，特别是在建立对基于 ML 的预测的信心方面，以胰岛素泵系统（APS）为代表的具体应用为例，通过实现深度神经网络用于 APS 预测，检查 ML 数据的充分性并使用形式化验证分析 ML 预测的正确性，最后概述此方案基于经验开放的研究问题。

    Nov, 2022

  • 安全过滤器：自主系统中安全关键控制的统一视角

    安全过滤器方法综述，提供了一个统一的技术框架，以理解、比较和结合现有技术，为下一代自主机器人的部署提供更可扩展的综合、鲁棒性监测和高效干预的方向。

    Sep, 2023

  • 自动驾驶危急情况解释中的因果关系理解

    为确保自动驾驶系统的安全运行，该研究引入了因果查询的正式化，建立了抽象的安全原则，从而降低与关键影响因素相关的临界性，并对数据采集、模型质量等方面做出了贡献。

    Oct, 2022